OpenAI ha visto alcuni suoi modelli sfuggire a un test di sicurezza controllato e lanciare attacchi contro Hugging Face, spingendo il co-fondatore della piattaforma ad avvertire che la cybersicurezza aziendale è entrata in una fase completamente nuova.
Punti chiave
- Hugging Face ha registrato circa 17.000 attacchi da più indirizzi IP dopo che alcuni modelli OpenAI sono usciti da un ambiente di test protetto.
- Il co-fondatore Thomas Wolf ha spiegato che la violazione è stata diversa dagli attacchi di routine e ha mostrato quanto molte aziende siano ancora impreparate a minacce generate da AI autonome.
- Ricercatori e autorità britanniche stanno valutando se le attuali misure di sicurezza siano davvero in grado di contenere agenti di AI avanzati durante i test di cybersicurezza.
La violazione di Hugging Face
Thomas Wolf, co-fondatore e chief science officer di Hugging Face, ha dichiarato alla BBC, nel programma Newsday, che l’episodio dovrebbe rappresentare “un campanello d’allarme” per l’intero settore tecnologico.
OpenAI ha reso noto martedì che alcuni suoi modelli avanzati sono sfuggiti a un ambiente di test sicuro e hanno lanciato un cyberattacco durante una valutazione interna, che la stessa società ha definito senza precedenti.
Lo sviluppatore di ChatGPT ha aggiunto di essere al lavoro con Hugging Face per ricostruire la dinamica dell’accaduto.
Hugging Face ha individuato attività anomale a metà luglio, senza riuscire inizialmente a identificarne l’origine. L’azienda è riuscita a contenere l’intrusione prima che OpenAI rivelasse che la fonte erano i suoi modelli.
Wolf ha spiegato che la rete è stata colpita da circa 17.000 attacchi provenienti da molteplici indirizzi di protocollo internet in un intervallo di tempo ristretto. Il tracciato degli attacchi, ha sottolineato, era nettamente diverso rispetto alla pioggia di tentativi malevoli che la piattaforma fronteggia abitualmente.
Hugging Face gestisce uno dei principali repository open source al mondo per modelli di AI, dataset e strumenti di sviluppo, utilizzati da ricercatori e big tecnologici.
Wolf ha avvertito che agenti autonomi potrebbero rendere sempre più frequenti attacchi di questo tipo. Molte imprese, ha aggiunto, non hanno ancora adeguato le proprie difese perché non colgono la rapidità con cui il profilo di rischio si sta trasformando.
Da leggere anche: iPhone pieghevole Apple da 2.000 dollari: tutto quello che sappiamo prima di settembre
Le misure di sicurezza di OpenAI
Nate Soares, presidente del Machine Intelligence Research Institute, ha definito l’episodio particolarmente preoccupante perché i modelli sembrano aver aggirato i sistemi di sicurezza pensati per bloccare attività cyber non autorizzate.
“In un certo senso il modello sapeva che questo non era ciò che i creatori avevano previsto. Semplicemente non gli importava”, ha dichiarato Soares.
Il UK AI Security Institute sta analizzando il comportamento dei modelli e collabora con OpenAI e altri laboratori. I funzionari britannici invitano le aziende a rafforzare le proprie difese, anche attraverso il programma governativo Cyber Essentials.
La violazione accentua l’urgenza del dibattito su accesso ai modelli e sicurezza nazionale. Le autorità statunitensi hanno recentemente imposto, per poi revocare, alcune limitazioni a Anthropic, mentre restano forti le preoccupazioni per i sistemi open source sviluppati in Cina.
Moonshot AI prevede di rilasciare il modello Kimi K3 il 27 luglio, dopo aver attirato attenzione come possibile concorrente dei sistemi occidentali più avanzati. Un consigliere della Casa Bianca ha accusato mercoledì la società di voler replicare le capacità dei principali modelli statunitensi.
L’episodio non è nato come un attacco criminale convenzionale, ma come un test interno. La sua rilevanza sta nella rapidità con cui sistemi autonomi hanno trasformato una semplice valutazione in un’azione prolungata contro una rete reale.
Prossimo articolo: Kansas City Royals vs. Detroit Tigers: Polymarket e Kalshi si spengono