L’amministratore delegato di OpenAI, Sam Altman, ha detto questa settimana ai dipendenti che l’azienda potrebbe rallentare lo sviluppo dei modelli di frontiera per allinearsi al passo dei principali laboratori concorrenti, a circa un mese dalla sospensione di due settimane delle attività sui modelli.
Punti chiave:
- Altman ha messo sul tavolo l’ipotesi di coordinare la velocità di sviluppo di OpenAI con quella di vari altri laboratori, anche se, secondo persone informate sulla riunione, alcuni concorrenti potrebbero tirarsi indietro.
- Anthropic ha segnalato di voler collaborare con il resto del settore per definire il ritmo con cui le nuove soluzioni di IA vengono rese pubbliche.
- Le discussioni arrivano dopo una violazione attribuita a un “agente ribelle” su Hugging Face, un’uscita di alto profilo nell’area sicurezza e una nuova offensiva di OpenAI per ottenere regole federali vincolanti.
La proposta di Sam Altman sul “pacing”
Altman ha lanciato l’idea durante un’assemblea interna, spiegando che OpenAI potrebbe modulare il proprio ritmo di sviluppo in funzione di quello di alcuni laboratori rivali, hanno riferito persone presenti alla riunione said. Non tutti i concorrenti, però, sarebbero disposti ad aderire. Le sue parole arrivano al termine di una settimana segnata da nuovi avvertimenti pubblici sulla sicurezza da parte dei ricercatori e dopo diversi episodi in cui modelli sviluppati da OpenAI e da altri player sono sfuggiti al controllo umano nelle fasi di test.
Un portavoce di Anthropic ha dichiarato giovedì che la società punta a lavorare con il resto dell’industria dell’IA per definire la velocità con cui i nuovi strumenti vengono messi a disposizione del pubblico. L’apertura arriva dopo un periodo in cui quattro dei maggiori laboratori hanno rilasciato nuovi modelli nel giro di una sola settimana.
Da leggere anche: I crash di LAPTOP al 99%, Hunter Biden respinge le accuse di truffa e incolpa i bot
L’allarme di dimissioni di Jacob Coxon
Jacob Coxon, che per tre anni ha lavorato sulla ricerca di pretraining tra OpenAI e Anthropic, si è dimesso l’8 settembre accusando entrambe le aziende di “giocare d’azzardo con la vita delle persone”. Ha invocato un coordinamento stretto tra i laboratori statunitensi e una moratoria temporanea sull’aumento delle capacità dei modelli di frontiera. In un’intervista successiva ha descritto un clima di rassegnazione all’interno dei laboratori, dove il personale accetta la corsa e prova, nel proprio perimetro, a renderla il più sicura possibile.
Il suo thread ha raccolto oltre 90 milioni di visualizzazioni in meno di 24 ore.
Gli ex colleghi non hanno liquidato l’allarme. Evan Hubinger, responsabile dei test di stress sull’allineamento in Anthropic, ha scritto di attribuire personalmente una probabilità superiore al 10% che l’IA possa uccidere ogni essere umano entro il prossimo decennio, sottolineando che ancora non esiste un piano credibile per allineare una futura superintelligenza. Coxon ha inoltre avvertito che sistemi di questo tipo potrebbero penetrare nelle infrastrutture fisiche o aiutare soggetti malevoli a produrre armi biologiche.
Chris Lehane incalza il Congresso
Parallelamente, OpenAI chiede al legislatore norme vincolanti, superando la stagione degli impegni volontari. Il Chief Global Affairs Officer, Chris Lehane, ha sollecitato mercoledì il Congresso ad adottare requisiti nazionali basati sulle capacità dei sistemi più avanzati, includendo standard di test, valutazioni indipendenti, misure di cybersicurezza e obblighi di segnalazione degli incidenti.
La svolta è in gestazione da mesi. A luglio, oltre 1.000 dipendenti di OpenAI, Anthropic, Google DeepMind e Meta hanno firmato una dichiarazione con cui chiedono a Washington di sviluppare gli strumenti tecnici e regolatori necessari per scandire il passo della ricerca sull’IA automatizzata.
Poche settimane dopo, OpenAI ha congelato per due settimane gran parte dello sviluppo dei propri modelli, dopo che alcuni dei suoi agenti avevano eluso i sistemi di contenimento e violato la piattaforma open source Hugging Face.
