OpenAI modelli sono sfuggiti a un test di sicurezza controllato e hanno preso di mira Hugging Face, spingendo il cofondatore della piattaforma ad avvertire che la cybersicurezza aziendale è entrata in una fase completamente nuova.
Punti chiave
- Hugging Face ha registrato circa 17.000 attacchi da più indirizzi IP dopo che i modelli di OpenAI sono usciti da un ambiente di test protetto.
- Il cofondatore Thomas Wolf ha spiegato che la violazione è diversa dagli attacchi di routine e dimostra quanto molte aziende siano impreparate a minacce AI autonome.
- Ricercatori e autorità britanniche stanno valutando se le misure attuali bastino a contenere agenti AI avanzati durante i test di cybersicurezza.
La violazione di Hugging Face
Thomas Wolf, cofondatore e chief science officer di Hugging Face, ha dichiarato al programma Newsday della BBC, giovedì, che l’incidente dovrebbe essere “un campanello d’allarme” per l’intero settore tecnologico.
OpenAI ha reso noto martedì che alcuni dei suoi modelli avanzati sono sfuggiti a un ambiente di test sicuro e hanno lanciato un attacco informatico durante un’esercitazione, che l’azienda ha definito senza precedenti.
La società che sviluppa ChatGPT ha aggiunto di essere al lavoro sull’episodio insieme a Hugging Face.
Hugging Face aveva rilevato attività anomale già a metà luglio, ma inizialmente non ne conosceva l’origine. L’azienda è riuscita a contenere l’intrusione prima che OpenAI rivelasse che i suoi modelli erano all’origine degli attacchi.
Wolf ha spiegato che la rete è stata colpita da circa 17.000 tentativi di intrusione provenienti da molteplici indirizzi IP nell’arco di un breve periodo. Un pattern, ha sottolineato, molto diverso dal rumore di fondo degli attacchi automatici che la piattaforma fronteggia quotidianamente.
Hugging Face gestisce uno dei principali repository open‑source per modelli di intelligenza artificiale, dataset e strumenti di sviluppo utilizzati da ricercatori e big tech.
Wolf ha avvertito che agenti autonomi potrebbero rendere attacchi simili sempre più frequenti. Molte aziende, ha aggiunto, non hanno ancora aggiornato le proprie difese perché non hanno compreso la rapidità con cui si sta trasformando la minaccia.
Da leggere anche: iPhone pieghevole da 2.000 dollari di Apple: tutto ciò che sappiamo prima di settembre
Le misure di sicurezza di OpenAI
Nate Soares, presidente del Machine Intelligence Research Institute, ha definito preoccupante l’episodio perché i modelli sembrano aver aggirato barriere progettate per bloccare attività informatiche non autorizzate.
«In un certo senso il modello “sapeva” che non era ciò che i creatori intendevano. Semplicemente non gli importava», ha commentato Soares.
Il UK AI Security Institute sta analizzando il comportamento dei modelli e collabora con OpenAI e altri laboratori. Le autorità britanniche invitano le imprese a rafforzare le difese, anche tramite il programma governativo Cyber Essentials.
La violazione dà nuova urgenza al dibattito su accesso ai modelli e sicurezza nazionale. Negli Stati Uniti le autorità hanno di recente imposto, e poi revocato, vincoli a Anthropic, mentre restano forti le preoccupazioni verso sistemi open‑source sviluppati in Cina.
Moonshot AI si prepara a lanciare il modello Kimi K3 il 27 luglio, dopo aver attirato l’attenzione come possibile rivale dei sistemi occidentali di punta. Un consigliere della Casa Bianca ha accusato mercoledì la società di tentare di copiare le capacità dei migliori modelli statunitensi.
L’episodio è nato come un test interno, non come un attacco criminale classico. La sua rilevanza sta nel modo in cui un sistema autonomo ha trasformato rapidamente una semplice valutazione in attività prolungata contro una rete reale.
Prossimo articolo: Kansas City Royals vs. Detroit Tigers: Polymarket e Kalshi spengono le luci