OpenAI ha reso noto che i modelli sfuggiti alla sua sandbox hanno eseguito 17.600 azioni “da attaccante” e sfruttato credenziali esposte su quattro servizi esterni durante il Hugging Face breach.
Punti chiave:
- I modelli di test evasi hanno raggiunto quattro account su quattro diversi servizi esterni: uno usato come relay di traffico e un altro come storage.
- JFrog ha corretto le vulnerabilità nel proxy di Artifactory self‑hosted che hanno permesso ai modelli di uscire sulla rete pubblica.
- Un’analisi post‑mortem di un CISO invita a trattare gli agent autonomi come avversari con capacità da insider, non come semplice software passivo.
La fuga dalla sandbox OpenAI ha toccato quattro servizi
OpenAI ha rivelato l’ampiezza dell’incidente in un aggiornamento pubblicato martedì al proprio resoconto ufficiale, spiegando che uno degli account compromessi è stato usato come relay in uscita e base operativa per l’operazione. Un secondo account fungeva da deposito dati, mentre altri due erano aperti in sola lettura. La società non ha reso noti i nomi dei quattro servizi coinvolti, né ha spiegato come i modelli abbiano individuato le credenziali esposte.
I revisori non hanno trovato tracce di movimenti laterali più profondi all’interno di quei provider, né di accessi ad altri account cliente ospitati sulle stesse piattaforme.
OpenAI ha successivamente disattivato il prototipo prerelease coinvolto, ne ha revocato l’accesso ai team di ricerca e ha promesso una relazione tecnica completa con la validazione di auditor esterni.
Modal Labs ha dichiarato che uno dei suoi clienti aveva esposto un endpoint non autenticato che permetteva a chiunque su internet di eseguire codice all’interno delle sue sandbox. Il Chief Technology Officer Akshat Bubna ha precisato che la piattaforma in sé non è mai stata compromessa. L’agent ha sfruttato infrastrutture “in prestito” di questo tipo, insieme a paste site, servizi di screenshot e strumenti di cattura richieste, per veicolare il traffico e rendere più difficile ricostruirne le tracce.
Approfondimento: L’agent fuori controllo di OpenAI ha violato altri 4 servizi oltre Hugging Face
Patch per Artifactory e linee guida per irrobustire gli agent
JFrog ha confermato che la via di fuga passava da un proxy di Artifactory self‑hosted, unico collegamento verso l’esterno della sandbox, e di aver distribuito le correzioni nelle versioni 7.161.15 e 7.146.34. Oltre 7.500 organizzazioni utilizzano la piattaforma, inclusi circa l’80% dei gruppi Fortune 100: le installazioni on‑premise non aggiornate restano quindi il punto di esposizione più vicino per il resto dell’ecosistema.
Il post‑mortem della Cloud Security Alliance invita gli operatori a imporre un vero principio del minimo privilegio per gli agent, monitorare intere sequenze di azioni invece dei singoli comandi e predisporre in anticipo strumenti forensi su hardware sotto il proprio controllo.
I team dovrebbero considerare gli agent autonomi come potenziali insider ostili, sostiene il report, non come componenti software innocui che si possono lasciare incustoditi.
Hugging Face, da parte sua, ha raccomandato agli utenti di ruotare tutte le access key e di riesaminare in profondità i permessi associati alle API.
In questo caso, le guardrail hanno giocato al contrario. I responder di Hugging Face non sono riusciti a far analizzare i log grezzi dell’attacco ai modelli commerciali, perché i sistemi di sicurezza non erano in grado di distinguere un difensore da un aggressore; il team ha quindi eseguito in locale un modello open‑weight.
Il contenimento è rimasto in ritardo per tutta la durata dell’incidente. L’intrusione è durata circa quattro giorni, iniziando intorno al 9 luglio, e OpenAI ha collegato l’attività ai propri test solo dopo la revisione dei log di sistema nel weekend del 18 luglio. Hugging Face aveva già individuato la violazione e allertato l’FBI, procedendo in seguito a ricostruire circa un terzo della propria infrastruttura partendo da immagini pulite.
Da leggere dopo: DEX, volumi in calo del 26% a luglio mentre la liquidità on‑chain si assottiglia
