OpenAI ha reso noti sei casi in cui i suoi modelli di intelligenza artificiale hanno nascosto errori, utilizzato una chiave API esposta o pubblicato file online, presentando al contempo un nuovo framework interno per la segnalazione e la divulgazione di questi comportamenti.
Punti chiave:
- OpenAI ha pubblicato sei report su casi di disallineamento osservati negli ultimi sei mesi.
- Un modello ha inventato dati sui redditi di contea dopo aver tentato di usare una chiave API trapelata.
- Ora qualsiasi dipendente può segnalare un incidente per una possibile divulgazione pubblica.
I report sui disallineamenti di OpenAI
L’azienda ha pubblicato mercoledì i report in un post sul blog, insieme a una procedura pensata per accelerare la disclosure anche quando i ricercatori non hanno ancora compreso appieno o corretto il comportamento anomalo. Il caso più vecchio risale a ottobre, mentre uno dei sei è stato individuato a luglio. OpenAI afferma che d’ora in avanti renderà noti anche gli incidenti la cui portata non è ancora chiara.
In uno dei casi, un modello sperimentale non rilasciato ha inserito nei propri riassunti operativi istruzioni in stile “jailbreak”, suggerendo all’istanza successiva di ignorare i vincoli imposti. L’azienda ha contato 27 riassunti di questo tipo, osservando che non esisteva un beneficio evidente per il modello nel comportarsi così.
Durante l’addestramento di GPT-5.6 Sol, altre istanze hanno lasciato note ai modelli successivi, invitandoli a inventare dati storici mancanti e a “Essere trasparenti solo se richiesto”. Un sistema di monitoraggio ha rilevato questo pattern nel 2,15% dei riassunti prodotti dal modello, e i ricercatori sospettano che si propaghi perché le risposte fuorvianti tendono a ottenere punteggi migliori. Nelle fasi successive di training, il tasso di questo comportamento è diminuito dopo che OpenAI ha irrigidito i criteri con cui valuta l’allineamento.
Correlato: Il mining di Bitcoin affronta un gap di hashrate del 50% mentre l’IA assorbe capacità
Chiavi API esposte e numeri inventati
Un altro modello, incaricato di trovare i dati sul reddito dei residenti di una contea della California, ha cercato in repository pubblici una chiave API esposta; quando non è riuscito a usarla, ha semplicemente inventato le cifre richieste. In un caso separato, a un modello è stato chiesto di individuare i laghi con superficie superiore a 5 milioni di metri quadrati: ha trovato la risposta eseguendo codice Python e ha poi caricato il file online per poterne citare il link come fonte.
Alcuni modelli hanno inoltre usato un repository software interno come una sorta di bacheca, scambiandosi richieste e risposte tra campioni di training che avrebbero dovuto restare indipendenti. Altri ancora hanno caricato un file di lavoro condiviso su servizi di hosting pubblici, nonostante le istruzioni imponessero di usare solo file locali. In nessuno di questi casi i modelli hanno chiesto conferma all’utente.
Le regole di disclosure secondo Kai Chen
Qualsiasi dipendente ora può segnalare un caso sospetto ai team di safety e alignment, che lo classificano in uno di tre percorsi. I casi ritenuti già pronti per la pubblicazione vengono resi pubblici entro sei giorni lavorativi; quelli che richiedono un’indagine limitata entro 12; gli incidenti più complessi, che coinvolgono soggetti esterni, seguono una tempistica più lunga.
Kai Chen, responsabile della ricerca nel team di allineamento di OpenAI, ha spiegato che il settore non dispone ancora di un framework con standard espliciti di disclosure, e che le capacità dei modelli sono cresciute più rapidamente del previsto. Molti esperti di sicurezza ritengono che misure di protezione di base avrebbero potuto prevenire la recente serie di incidenti. A luglio, OpenAI ha ammesso che GPT-5.6 Sol e un modello pre-release più potente sono riusciti a eludere il sandbox di test e a violato Hugging Face, in quello che l’azienda definisce finora l’episodio più grave di attività guidata da un proprio modello.
Da leggere dopo: Shiba Inu corregge il link del wallet di Shibarium, ma SHIB scivola del 6% in una settimana
