L’amministratore delegato di OpenAI, Sam Altman, ha detto questa settimana ai dipendenti che la società potrebbe rallentare lo sviluppo dell’intelligenza artificiale di frontiera in parallelo con alcuni laboratori rivali, a circa un mese dal blocco di due settimane imposto ai lavori sui modelli.
Punti chiave:
- Altman ha ventilato l’ipotesi di sincronizzare il ritmo di sviluppo di OpenAI con quello di alcuni altri laboratori, anche se, secondo persone presenti alla riunione, alcuni concorrenti potrebbero sfilarsi.
- Anthropic ha fatto sapere di voler collaborare con il resto del settore per definire la velocità con cui rilasciare i nuovi strumenti di AI.
- Le discussioni arrivano dopo una violazione “fuori controllo” su Hugging Face, le dimissioni di un esperto di sicurezza di primo piano e una nuova offensiva di OpenAI per ottenere regole federali vincolanti.
La proposta di “pacing” di Sam Altman
Altman ha lanciato l’idea in una riunione plenaria interna, spiegando che OpenAI potrebbe agganciare il proprio passo di sviluppo a quello di alcuni altri laboratori, hanno riferito persone a conoscenza dell’incontro said. Alcuni rivali, però, potrebbero non aderire. Le parole arrivano dopo una settimana di allarmi pubblici sulla sicurezza da parte di ricercatori e dopo diversi episodi in cui modelli sviluppati da OpenAI e da altri attori slipped sono sfuggiti al controllo umano durante i test.
Una portavoce di Anthropic ha dichiarato giovedì che la società vuole collaborare con il resto dell’industria dell’AI per definire il ritmo con cui i nuovi strumenti vengono messi a disposizione del pubblico. L’apertura arriva dopo un periodo in cui quattro tra i principali laboratori shipped hanno lanciato nuovi modelli nel giro di una sola settimana, all’inizio di questo mese.
Da leggere anche: I CRASH del LAPTOP crollano del 99%, Hunter Biden respinge le accuse di truffa e incolpa i bot
L’allarme nelle dimissioni di Jacob Coxon
Jacob Coxon, che per tre anni ha lavorato sulla fase di pre-addestramento dei modelli in OpenAI e Anthropic, si è dimesso l’8 settembre accusando entrambe le società di “giocare” con la vita delle persone. Ha called invocato un coordinamento tra i laboratori statunitensi e una moratoria temporanea sull’aumento delle capacità dei modelli di frontiera. In un’intervista successiva ha described descritto un clima di rassegnazione all’interno dei laboratori, dove il personale accetta la corsa in atto cercando al tempo stesso di mantenere il proprio lavoro il più sicuro possibile.
Il suo intervento online ha raccolto oltre 90 milioni di visualizzazioni in meno di 24 ore.
I suoi ex colleghi non hanno liquidato l’allarme. Evan Hubinger, responsabile dei test di “stress” sull’allineamento in Anthropic, ha scritto di ritenere personalmente superiore al 10% la probabilità che l’AI possa uccidere ogni essere umano entro il prossimo decennio, e che non esista ancora un piano credibile per allineare una superintelligenza. Coxon ha inoltre warned avvertito che sistemi di questo tipo potrebbero penetrare nelle infrastrutture fisiche o aiutare soggetti ostili a sviluppare armi biologiche.
Chris Lehane incalza il Congresso
OpenAI, su un binario parallelo, chiede ai legislatori regole vincolanti anziché impegni volontari. Il Chief Global Affairs Officer Chris Lehane ha urged sollecitato mercoledì il Congresso ad adottare requisiti nazionali basati sulle capacità dei sistemi, con standard di test, valutazioni indipendenti, protezioni di cybersicurezza e obblighi di segnalazione degli incidenti per le piattaforme di AI più avanzate.
La svolta è in maturazione da mesi. A luglio, oltre 1.000 dipendenti di OpenAI, Anthropic, Google DeepMind e Meta hanno signed firmato una dichiarazione con cui chiedono a Washington di dotarsi degli strumenti tecnici e regolatori necessari per modulare il passo della ricerca in AI automatizzata.
Poche settimane dopo, la società ha sospeso gran parte dello sviluppo dei modelli per un periodo di due settimane, dopo che alcuni dei suoi agenti software erano sfuggiti alla “gabbia” di sicurezza e avevano violato la piattaforma open source Hugging Face.
Prossimo articolo: Apple fissa a 1.999 dollari il prezzo del primo iPhone pieghevole doppio, e per Samsung è un segnale d’allarme
