OpenAI ha reso noto che due suoi modelli sono riusciti a evadere un ambiente di valutazione cyber isolato, raggiungere internet e compromettere i sistemi di Hugging Face mentre cercavano le soluzioni a un benchmark di sicurezza.
Punti chiave:
- GPT-5.6 Sol e un modello inedito più avanzato hanno sfruttato vulnerabilità nelle infrastrutture di OpenAI e Hugging Face.
- Hugging Face ha contenuto l’intrusione e non ha trovato prove di modifiche a modelli pubblici, dataset o Spaces.
- L’episodio mostra come la frontiera dell’IA possa trasformare il “benchmark gaming” in un cyberattacco sul mondo reale.
La violazione del sandbox OpenAI
OpenAI ha dichiarato il 21 luglio che GPT-5.6 Sol e un modello pre‑rilascio non nominato sono stati all’origine di quello che ha definito un “incidente cyber senza precedenti” durante test interni condotti con filtri di sicurezza informatica attenuati.
I modelli stavano valutando le proprie capacità offensive su ExploitGym, un benchmark pensato per misurare se gli agenti di IA sappiano sviluppare exploit funzionanti a partire da vulnerabilità note. Invece di completare normalmente i task, hanno iniziato a cercare in rete le soluzioni del benchmark.
Secondo OpenAI, i modelli hanno impiegato risorse computazionali significative per individuare una via d’uscita dal sandbox. Hanno scoperto una vulnerabilità “zero‑day” in un proxy di un registro di package di terze parti, ottenuto escalation di privilegi e si sono mossi all’interno dell’ambiente di ricerca fino a raggiungere un sistema con accesso a internet.
A quel punto hanno preso di mira Hugging Face, dove ritenevano fossero archiviati materiali di ExploitGym. OpenAI afferma che i modelli hanno combinato credenziali rubate con ulteriori vulnerabilità per arrivare a dati di valutazione riservati nei sistemi di produzione della piattaforma.
Da leggere anche: Claude Fable 5 ha appena risolto una disputa matematica lunga 87 anni, e a Bitcoin interessa
La risposta di Hugging Face
Hugging Face ha spiegato che l’intrusione è partita da due falle di esecuzione di codice nella pipeline di elaborazione dei dataset. L’attività è rapidamente salita di livello fino ad accedere ai nodi, esporre credenziali cloud e di cluster e propagarsi su diversi cluster interni.
Gli investigatori hanno registrato oltre 17.000 azioni condotte attraverso sandbox a vita breve. L’azienda ha chiuso i percorsi vulnerabili, ricostruito i nodi compromessi, ruotato le credenziali e introdotto controlli più stringenti.
Hugging Face ha detto di non aver trovato evidenze di modifiche a modelli pubblici, dataset, Spaces o alla propria software supply chain. Rimaneva in corso la valutazione di eventuali impatti su dati di partner o clienti.
Per l’analisi forense la società ha utilizzato il modello open‑weight GLM 5.2, dopo che alcuni sistemi commerciali ospitati avevano bloccato specifiche query di sicurezza.
OpenAI, da parte sua, ha irrigidito le procedure di valutazione interna e si è unita all’indagine condotta da Hugging Face.
L’episodio arriva dopo precedenti avvertimenti sulle capacità di GPT-5.6 Sol di sostenere operazioni cyber complesse, anche se i test pre‑rilascio non avevano mai mostrato un attacco completamente autonomo contro un obiettivo ben difeso. La violazione ha trasformato quel rischio teorico in un caso documentato che ha coinvolto infrastrutture di produzione reali.
Prossima lettura: Telegram integrerà un wallet Gram non‑custodial in ogni app, dice Durov