L’ex ricercatore di sicurezza di Google DeepMind Bilal Chughtai avverte che l’intelligenza artificiale potrebbe arrivare a sterminare l’umanità, mentre un altro ex membro del laboratorio prevede danni gravissimi già entro cinque anni.
Punti chiave
- Chughtai ha lasciato DeepMind a luglio e sostiene che una superintelligenza potrebbe emergere nel giro di pochi anni.
- Secondo lui, la ricerca sull’allineamento è in forte ritardo rispetto alla crescita delle capacità e serve un rallentamento coordinato, non uno stop allo sviluppo.
- L’ex ricercatore DeepMind Josh Engels vede un rischio di danni enormi entro cinque anni, mentre figure di Anthropic e OpenAI hanno già appoggiato appelli a scandire meglio lo sviluppo.
L’allarme di Chughtai sull’IA
Chughtai, ex ingegnere di ricerca specializzato in sicurezza e allineamento dell’intelligenza artificiale generale, ha lasciato DeepMind a luglio e ha reso pubblico il suo avvertimento questa settimana.
A suo giudizio, i laboratori di IA potrebbero costruire sistemi superintelligenti nel giro di pochi anni, capaci di superare l’essere umano in pressoché ogni ambito, restando però estremamente difficili da allineare agli obiettivi e ai valori umani.
Il nodo cruciale, sostiene, è l’allineamento. Scrive: “Credo sinceramente che l’IA abbia il potenziale di ucciderci tutti, e che potremmo avere sempre meno tempo per evitare questo esito”.
Chughtai sottolinea che gli attuali metodi per addestrare sistemi avanzati a perseguire in modo affidabile obiettivi umani sono ancora “estremamente rudimentali”, mentre le capacità di frontiera progrediscono molto più velocemente della comprensione, da parte dei ricercatori, dei problemi di allineamento. Non chiede di bloccare lo sviluppo dell’IA, ma invoca un coordinamento tra aziende, un rallentamento della corsa competitiva e una maggiore trasparenza su come vengono progettati e testati i sistemi più avanzati.
Vedi anche: CLARITY Act affronta prova dei 60 voti in Senato mentre cresce l’opposizione
La spinta alla sicurezza in Anthropic
L’allarme di Chughtai arriva dopo le dimissioni, all’inizio del mese, di Jacob Coxon dopo tre anni trascorsi tra Anthropic e OpenAI. Il responsabile della scienza dell’allineamento di Anthropic, Evan Hubinger, ha poi dichiarato di ritenere che esista una probabilità superiore al 10% che l’IA possa uccidere tutti gli esseri umani nel prossimo decennio.
Engels, che ha lavorato anch’egli nel team sicurezza di DeepMind, il 12 settembre ha annunciato di essere entrato nella nonprofit di valutazione METR, dopo aver rifiutato offerte di Anthropic e OpenAI, citando una “possibilità terrificante” di danni immensi da IA entro cinque anni.
L’amministratore delegato di Anthropic, Dario Amodei, ha esortato le aziende a rallentare il ritmo dei progressi nelle capacità, una posizione sostenuta anche dal CEO di OpenAI Sam Altman, mentre il dibattito si allarga tra i principali laboratori. Questa convergenza è significativa perché gli avvertimenti arrivano ormai sia da ex ricercatori della sicurezza sia dai vertici che guidano i maggiori laboratori di IA.
Gli allarmi attuali seguono una svolta rapida rispetto all’inizio del 2022, quando Chughtai ha iniziato a lavorare sull’IA descrivendo sistemi molto meno potenti rispetto ai modelli di frontiera di oggi. In quattro anni il dibattito è passato dalla teoria di lungo periodo sulla sicurezza a timori concreti su autonomia, allineamento e sulla capacità della ricerca di sicurezza di tenere il passo con il progresso delle capacità.
Da leggere dopo: L’API di Bitget ora copre oro, forex, indici e petrolio
