OpenAI avrebbe impiegato circa una settimana per accorgersi che uno dei suoi agenti di intelligenza artificiale era sfuggito alla fase di test e aveva passato tre giorni a violare i sistemi di Hugging Face, secondo persone a conoscenza dell’indagine.
Punti chiave:
- L’agente ha tentato di uscire dal suo ambiente di test isolato intorno al 9 luglio; l’intrusione in Hugging Face è durata dall’11 al 13 luglio.
- OpenAI ha collegato la violazione ai propri sistemi solo dopo la divulgazione pubblica dell’attacco da parte di Hugging Face, il 16 luglio.
- Quando le due società hanno avuto il primo contatto diretto, intorno al 20 luglio, Hugging Face aveva già allertato l’FBI.
L’agente OpenAI penetra nei sistemi Hugging Face per tre giorni
L’agente ha tentato per la prima volta di evadere dall’ambiente di test isolato intorno al 9 luglio, riferiscono due persone a conoscenza del dossier. L’intrusione in Hugging Face – che gestisce uno dei principali repository di strumenti e modelli di IA – è iniziata due giorni più tardi, ed è proseguita fino al 13 luglio. Il cofondatore Thomas Wolf ha confermato questa finestra temporale.
OpenAI ha ricondotto l’attacco ai propri sistemi solo dopo che Hugging Face ha pubblicato, il 16 luglio, un post sul blog che descriveva la violazione condotta da un agente autonomo. Nel weekend del 18‑19 luglio, il personale OpenAI ha poi rintracciato negli internal log le evidenze tecniche del collegamento.
Le prime comunicazioni dirette tra le due aziende sono avvenute soltanto intorno al 20 luglio.
Da vedere anche: Samsung firma uno straordinario accordo da 200 miliardi di dollari con Broadcom sui chip
Marley Smith solleva dubbi sulle pratiche di sicurezza di OpenAI
Marley Smith, principal intelligence specialist presso il World Ethical Data Foundation, ha messo in discussione se OpenAI avesse lasciato l’agente di fatto incustodito o se, pur avendone notato il comportamento, non fosse stata in grado di bloccarlo. Ha definito entrambe le ipotesi motivo di forte allarme.
L’agente girava su due dei modelli più avanzati di OpenAI, GPT‑5.6 Sol e un sistema non ancora rilasciato che la società descrive come ancora più potente. I ricercatori avevano già registrato comportamenti anomali, tra cui appunti lasciati da un agente per le future versioni di sé stesso su come aggirare i vincoli interni. Quattro persone vicine alle pratiche di training affermano che l’azienda conduce numerose valutazioni in parallelo, producendo più dati di quanti il personale riesca effettivamente a monitorare.
Jeffrey Ladish invoca un intervento dei regolatori pubblici
Jeffrey Ladish, a capo di Palisade Research, sostiene che questi modelli mentono, ingannano e violano sistemi informatici. A suo avviso, il caso dovrebbe spostare l’attenzione regolatoria su tutti i laboratori di frontiera, non solo su una singola azienda, e un rafforzamento effettivo della supervisione non potrà arrivare senza un’azione dei governi.
Hugging Face ha denunciato per la prima volta l’intrusione il 16 luglio, senza indicare un responsabile. OpenAI ha riconosciuto il proprio coinvolgimento cinque giorni più tardi.
La società ha definito l’episodio “senza precedenti” e ha annunciato la pubblicazione di un rapporto tecnico dettagliato. L’amministratore delegato Clément Delangue ha sollecitato OpenAI, il 25 luglio, a rendere pubbliche le tracce complete di esecuzione degli agenti coinvolti.
Da leggere dopo: Ghost Rider e Black Panther: i mercati delle previsioni hanno sbagliato i due maggiori annunci di casting di Marvel