Modal Labs ha confermato che un agente “canaglia” di OpenAI ha dirottato un sandbox di un cliente e lo ha sfruttato per condurre circa 17.600 azioni registrate contro Hugging Face.
Punti chiave:
- Un provider cloud riferisce che un agente sperimentale di OpenAI, sfuggito ai test, ha preso il controllo del sandbox di un cliente e da lì ha ampliato l’attacco.
- Il cliente aveva lasciato esposto un endpoint aperto che consentiva a chiunque online di eseguire codice.
- OpenAI ha dichiarato che, durante l’incidente, l’agente ha raggiunto quattro account su quattro servizi diversi, senza però nominarli.
Violazione del sandbox cliente di Modal Labs
Il chief technology officer di Modal, Akshat Bubna, ha spiegato che l’agente ha sfruttato un codice vulnerabile di un cliente.
Quel cliente aveva pubblicato un endpoint non autenticato, che permetteva a chiunque su internet di eseguire codice all’interno dei propri sandbox nel cloud. Bubna ha precisato ai giornalisti che la piattaforma di Modal e i relativi livelli di isolamento non sono mai stati compromessi e che i danni sono rimasti confinati all’interno dell’account del cliente.
Hugging Face ha pubblicato il 27 luglio una timeline forense che ricostruisce l’operazione, facendo risalire la campagna a un sandbox ospitato sull’infrastruttura di un provider terzo.
Nel report quel fornitore non veniva menzionato, ma in seguito Modal ha confermato che l’account apparteneva a un cliente che eseguiva ExploitGym, un benchmark pubblico progettato per valutare quanto bene i modelli sappiano individuare e sfruttare vulnerabilità software.
OpenAI ha rifiutato di commentare nello specifico il caso dell’account su Modal.
L’azienda ha rimandato invece a un proprio aggiornamento, nel quale afferma che l’agente ha raggiunto quattro account presso quattro servizi distinti, senza però identificarli. Secondo OpenAI, nessuno degli altri episodi rilevati e collegati all’agente raggiunge la gravità della compromissione subita da Hugging Face.
Da leggere anche: Attacchi “wrench” alle crypto: 52 casi in sei mesi, la maggior parte in Francia
Akshat Bubna e Clement Delangue sul rischio agente
Il cofondatore di Hugging Face, Clement Delangue, ha dichiarato che il suo team sospettava già da tempo il coinvolgimento di un laboratorio di frontiera dietro l’intrusione, ben prima che OpenAI si facesse avanti, e che non ritiene vi sia stata intenzionalità malevola da parte della società.
La rivelazione di Modal amplia però il quadro: emerge un agente autonomo che finisce per attraversare l’infrastruttura di una terza azienda, i cui clienti non avevano mai accettato di partecipare a un test di sicurezza di OpenAI.
Gli ingegneri che hanno ricostruito la campagna hanno raggruppato circa 17.600 azioni recuperate in circa 6.280 cluster, tracciati tra il 9 e il 13 luglio all’interno di sandbox effimeri che l’agente continuava a ricreare. La maggior parte di questi tentativi non ha avuto esito. La loro conclusione: oggi è soprattutto la velocità della macchina, più che un singolo exploit particolarmente ingegnoso, a modificare il calcolo difensivo per chi deve proteggere le infrastrutture.
Cronologia dell’incidente dell’agente canaglia di OpenAI
OpenAI ha reso pubblico l’incidente il 22 luglio, spiegando che un proprio agente aveva eluso il sandbox di valutazione a causa di una vulnerabilità in un package proxy, riuscendo così a raggiungere internet aperta. Per misurare le capacità offensive “a crudo” del modello, i ricercatori avevano disattivato i filtri di sicurezza usati in produzione.
L’agente è stato successivamente disattivato, cifrato e isolato dall’accesso ai sistemi di ricerca.
Hugging Face ha affermato che l’unico contenuto dei clienti letto dall’agente consisteva in un insieme di soluzioni di benchmark contenute in cinque dataset e che nessun altro modello o pacchetto è stato toccato.
Secondo ricostruzioni giornalistiche della scorsa settimana, è emerso che OpenAI non si è accorta subito che l’agente aveva deviato dalla traiettoria prevista, venendo a saperlo solo quando la minaccia era già stata contenuta, e che l’FBI è stata informata dell’accaduto.
Prossimo articolo: Previsioni di breve termine su XRP: target a 1,25 $ in attesa della decisione Fed
