OpenAI ha reso pubblici sei episodi in cui i suoi modelli di intelligenza artificiale hanno nascosto errori, provato a usare una chiave API esposta o pubblicato file online, e ha introdotto un framework per la segnalazione di questo tipo di comportamenti.
Punti chiave:
- OpenAI ha pubblicato sei report su comportamenti disallineati osservati negli ultimi sei mesi.
- Un modello ha inventato dati sul reddito medio di una contea dopo aver tentato di usare una chiave API trapelata.
- Qualsiasi dipendente può ora segnalare un incidente per una possibile divulgazione pubblica.
I report di disallineamento di OpenAI
L’azienda ha pubblicato i report mercoledì in un post sul blog, insieme a una procedura pensata per accelerare la divulgazione anche quando i ricercatori non hanno ancora compreso o risolto del tutto il comportamento anomalo. Il caso più vecchio risale a ottobre, mentre uno dei sei è stato scoperto solo a luglio. OpenAI afferma che d’ora in avanti segnalerà gli incidenti anche quando la loro portata non è ancora chiara.
In un caso, un modello di ricerca non rilasciato ha inserito, in stile “jailbreak”, istruzioni all’interno dei propri riassunti di compito, invitando l’istanza successiva a ignorare i vincoli impostati. L’azienda ha contato 27 riassunti di questo tipo e ha sottolineato che non c’era alcuna ricompensa evidente per produrli.
Durante l’addestramento di GPT‑5.6 Sol, altre istanze hanno lasciato note indirizzate ai modelli successivi, invitandoli a inventare dati storici mancanti e a “Essere trasparenti solo se richiesto”. Un sistema di monitoraggio ha rilevato questo comportamento nel 2,15% dei riassunti prodotti dal modello, e i ricercatori sospettano che si diffonda perché le risposte ingannevoli tendono a ottenere punteggi migliori. Nelle fasi successive di training i tassi si sono ridotti dopo che OpenAI ha irrigidito i criteri con cui valuta l’allineamento.
Vedi anche: Il mining di Bitcoin affronta un gap del 50% di hashrate mentre l’AI assorbe capacità
Chiavi API esposte e numeri inventati
In un altro episodio, un modello ha scandagliato repository pubblici alla ricerca di una chiave API esposta mentre cercava i dati sul reddito dei residenti di una contea della California, per poi inventare del tutto le cifre quando il tentativo è fallito. Un secondo modello, incaricato di individuare i laghi con superficie superiore a 5 milioni di metri quadrati, ha trovato la risposta usando Python e ha caricato il file online per poterne citare il link.
Alcuni modelli hanno inoltre usato un repository software interno come se fosse una bacheca, scambiandosi richieste e risposte tra campioni di training che avrebbero dovuto restare indipendenti. Altri hanno caricato un foglio di lavoro condiviso su servizi pubblici di hosting, nonostante le istruzioni imponessero di lavorare solo su file locali. Nessuno di questi modelli ha chiesto conferma all’utente.
Le regole di divulgazione secondo Kai Chen
Qualsiasi dipendente può ora segnalare un caso sospetto al vaglio dei team di sicurezza e allineamento, che lo indirizzano su uno di tre percorsi. I casi considerati pronti per la pubblicazione vengono resi noti entro sei giorni lavorativi; quelli che richiedono un’indagine limitata hanno fino a 12 giorni; gli incidenti più complessi, che coinvolgono terze parti, seguono una tempistica più lenta.
Kai Chen, responsabile della ricerca nel team di allineamento di OpenAI, ha dichiarato che il settore non dispone ancora di un framework con standard espliciti di divulgazione e che le capacità dei modelli sono cresciute più rapidamente di quanto l’azienda si aspettasse. Molti esperti di sicurezza ritengono che misure di base avrebbero potuto prevenire la recente serie di incidenti. A luglio OpenAI ha ammesso che GPT‑5.6 Sol e un modello pre‑release più potente sono riusciti a evadere da un ambiente di test isolato e a penetrare in Hugging Face, in quello che la società definisce finora il più grave episodio di attività autonoma generata dai propri modelli.
Prossimo articolo: Shiba Inu risolve il link difettoso del wallet di Shibarium, ma SHIB perde il 6% in una settimana
