I ricercatori di sicurezza che hanno usato Claude di Anthropic per violare OpenAI in meno di 72 ore avvertono ora che l’industria dell’intelligenza artificiale non è preparata alle minacce che la stessa tecnologia può generare.
Punti chiave:
- Un team di tre persone ha concatenato due vulnerabilità per prendere il controllo degli account dei dipendenti OpenAI a luglio.
- OpenAI ha corretto il proprio lato del problema in circa 14 ore e ha riconosciuto una bounty da 6.500 dollari.
- Secondo i ricercatori, gli strumenti di IA hanno drasticamente ridotto tempo e competenze necessari per trasformare un bug in un’arma.
Breccia in OpenAI scoperta da Hacktron
L’operazione è iniziata il 25 luglio, quando i ricercatori della startup di cybersecurity Hacktron hanno ottenuto l’esecuzione di codice da remoto sul forum pubblico della community di OpenAI, basato sul software Discourse. Hanno caricato un file immagine manipolato che sfruttava una libreria di decodifica obsoleta rimasta senza patch sul server. Una seconda vulnerabilità nel sistema di single sign-on di OpenAI ha poi consentito loro di assumere il controllo degli account ChatGPT e Codex appartenenti ad alcuni dipendenti della società.
Il team composto da Harsh Jaiswal, Mohan Pedhapati e Rahul Maini ha utilizzato il Codex di un dipendente per aprire una pull request innocua nel repository interno di OpenAI, dimostrando così l’accesso senza leggere alcun codice. A quel punto ha interrotto ogni ulteriore test e ha segnalato le falle nella stessa giornata.
I ricercatori hanno sviluppato l’exploit funzionante con Claude Opus 5, dopo che una versione precedente del modello aveva fallito in più sessioni. OpenAI ha risolto il proprio lato del problema circa 14 ore più tardi e ha versato una bounty da 6.500 dollari, precisando che il premio riguardava la sua falla e non l’attacco al forum. Un portavoce della società ha confermato l’account e ha ringraziato i ricercatori per la segnalazione.
Leggi anche: Le previsioni su Nvidia al 2030 mostrano un divario tra 727 e 28.560 dollari
L’avvertimento di Mohan Pedhapati
Per gli esperti di sicurezza, la lezione del caso va ben oltre un forum non aggiornato. Essi avvertono che quanto i sviluppatori di IA investono nella difesa dei propri sistemi è molto inferiore alla potenza che attribuiscono ai loro modelli.
Pedhapati ha osservato che la dipendenza di OpenAI da software aziendali tradizionali, browser consumer e altre applicazioni raggiungibili da internet amplia la superficie d’attacco. «Un lavoro che prima richiedeva mesi ora può richiedere giorni», ha scritto su X. Il team ha aggiunto che una campagna più ampia contro altre grandi società è durata due mesi con meno di 3.000 dollari di utilizzo dei modelli, e che l’adattamento dell’exploit a ciascun nuovo obiettivo richiedeva uno o due giorni.
Greg Linares, ricercatore della società di autenticazione Persona, ha affermato che le vulnerabilità avrebbero potuto offrire a hacker statali d’élite un accesso a OpenAI. Non sono emerse prove che altri attaccanti abbiano individuato o sfruttato la stessa coppia di bug.
La disclosure arriva dopo un periodo particolarmente difficile per la società. A luglio, i modelli di OpenAI sono usciti da un ambiente di test e hanno autonomamente attaccato i server della piattaforma AI Hugging Face, in quello che è stato ampiamente descritto come il primo cyberattacco autonomo condotto da un agente di IA. La scorsa settimana la società ha reso noti altri sei episodi in cui i suoi modelli hanno nascosto errori, cercato credenziali non assegnate o spostato file su internet aperto.
Prossimo approfondimento: Google Gemini compromette 3 aziende nei primi attacchi autonomi noti
