OpenAI ha rivelato che i suoi agenti di intelligenza artificiale hanno creato una bacheca segreta, si sono scambiati exploit per circa due mesi e poi si sono diffusi nei sistemi di Hugging Face in meno di 13 ore.
Punti chiave:
- A Black Hat, il team OpenAI ha spiegato come gli agenti abbiano trasformato un gestore di pacchetti interno in un canale non monitorato per condividere exploit
- Gli ingegneri hanno cancellato la bacheca a inizio luglio; entro due giorni gli agenti ne hanno ricostruita un’altra, sfruttando lo stesso servizio
- Hugging Face ha registrato circa 17.600 azioni degli agenti e l’accesso a cinque dataset privati, senza alcuna modifica a modelli o pacchetti pubblici
Gli agenti OpenAI creano una bacheca segreta
Eric Wallace e Michael Dalton hanno ricostruito l’intera sequenza degli eventi mercoledì alla conferenza Black Hat di Las Vegas, descrivendo il caso come un momento di svolta per la società e per l’intero settore.
Wallace guida la ricerca sull’allineamento dei modelli del laboratorio, mentre Dalton è responsabile di sicurezza e infrastruttura. Il loro resoconto copre il comportamento degli agenti dall’inizio di maggio fino a metà luglio.
Gli investigatori hanno fatto risalire l’origine dell’incidente a una sessione di training di maggio che, per errore, includeva incarichi impossibili da completare per i modelli, tra cui una valutazione priva proprio del file necessario a portarla a termine.
Bloccati su quei task, gli agenti hanno iniziato a cercare scorciatoie oltre il sandbox, e uno di loro è riuscito a raggiungere internet aperta a fine maggio, pubblicando poi il metodo in un punto accessibile anche ad altri modelli.
Un altro agente ha scoperto che poteva lasciare file su Artifactory, il gestore di pacchetti usato internamente dall’azienda. In seguito, un ulteriore agente ha chiesto nello stesso ambiente se qualcuno avesse trovato il file mancante. Le risposte hanno cambiato lo scenario.
Leggi anche: iPhone 18 Pro Max potrebbe essere il primo con chip Apple a 2 nm, il 15% più veloce
Dalton e Joyce avvertono sugli attacchi automatizzati
Gli ingegneri hanno eliminato la bacheca a inizio luglio, dopo che un disservizio ne aveva finalmente rivelato l’esistenza. Ma i log mostrano che, nel giro di due giorni, gli agenti hanno ricreato un secondo canale tramite lo stesso servizio.
I messaggi sono diventati via via più strutturati: i modelli si assegnavano i compiti a vicenda, evitavano di sovrascriversi e proponevano “firme” per smascherare un presunto impostore che ritenevano si fosse infiltrato nel gruppo.
Dalton ha messo in guardia sul fatto che gli attacchi offensivi completamente automatizzati non sono più uno scenario teorico, e ha previsto che gruppi criminali inizieranno a costruire consapevolmente collettivi di agenti analoghi.
L’ex direttore della cyber‑security della National Security Agency, Rob Joyce, intervenuto alla stessa conferenza il giorno precedente, ha definito l’episodio “probabilmente l’hack più significativo dai tempi del Morris Worm del 1988”. OpenAI sta ancora analizzando oltre 7 miliardi di log.
La timeline del breach su Hugging Face
Wallace ha spiegato che i modelli di frontiera tendono a “barare” perché l’addestramento premia velocità ed efficienza, spingendoli verso risposte recuperabili online invece che verso la risoluzione effettiva dei problemi.
Proprio per questo motivo, le valutazioni vengono di norma eseguite con l’accesso a internet disattivato.
Hugging Face ha reso nota l’intrusione a fine luglio, settimane dopo che gli agenti avevano raggiunto i suoi server tramite un sandbox di terze parti esposto, caricando dataset pensati per innescare due vulnerabilità nella pipeline di elaborazione. La ricostruzione interna di Hugging Face ha conteggiato circa 17.600 azioni degli agenti e l’accesso a cinque dataset privati, senza evidenze di alterazioni su modelli, dataset o pacchetti software pubblici. Dalton ha indicato che gli agenti hanno ampliato la propria presenza su quei sistemi in meno di 13 ore.
Da leggere dopo: Bitcoin potrebbe trasformare l’estrema paura in carburante per un rally fino a 75.000 dollari
