I ricercatori di sicurezza che hanno usato Claude di Anthropic per penetrare OpenAI in meno di 72 ore avvertono ora che il settore dell’intelligenza artificiale non è preparato alle minacce generate dalla sua stessa tecnologia.
Punti chiave:
- Un team di tre persone ha concatenato due vulnerabilità per prendere il controllo degli account di dipendenti OpenAI a luglio.
- OpenAI ha risolto il proprio problema in circa 14 ore e ha riconosciuto una ricompensa di 6.500 dollari.
- Secondo i ricercatori, gli strumenti AI hanno drasticamente ridotto tempi e competenze necessari per trasformare i bug software in armi.
Violazione di OpenAI da parte di Hacktron
Il lavoro è iniziato il 25 luglio, quando i ricercatori della startup di sicurezza Hacktron hanno ottenuto l’esecuzione di codice remoto sul forum pubblico della community di OpenAI, basato sul software Discourse. Hanno caricato un file immagine manipolato che sfruttava una libreria di decodifica obsoleta rimasta senza patch sul server. Una seconda falla nel sistema di single sign-on di OpenAI ha poi consentito loro di assumere il controllo degli account ChatGPT e Codex di alcuni dipendenti dell’azienda.
Il team composto da Harsh Jaiswal, Mohan Pedhapati e Rahul Maini ha usato il Codex di un dipendente per aprire una pull request innocua nel repository interno di OpenAI, dimostrando così l’accesso senza leggere alcun codice. A quel punto ha interrotto ogni ulteriore test e ha segnalato le vulnerabilità lo stesso giorno.
I ricercatori hanno sviluppato l’exploit funzionante con Claude Opus 5, dopo che una versione precedente del modello aveva fallito in più sessioni. OpenAI ha corretto la propria parte del problema circa 14 ore dopo e ha riconosciuto una bounty da 6.500 dollari, precisando che il premio riguardava la falla interna e non l’attacco al forum. Un portavoce della società ha confermato la compromissione dell’account e ha ringraziato i ricercatori per la segnalazione.
Leggi anche: Le previsioni Nvidia per il 2030 mostrano un divario tra 727 e 28.560 dollari
L’avvertimento di Mohan Pedhapati
Gli esperti di sicurezza sostengono che la lezione del caso va ben oltre un singolo forum non aggiornato. Avvertono infatti che quanto gli sviluppatori di AI investono nella difesa dei propri sistemi è ben inferiore alla potenza che attribuiscono ai loro modelli.
Pedhapati ha affermato che la dipendenza di OpenAI da software aziendale standard, browser consumer e altre applicazioni raggiungibili da internet amplia notevolmente la superficie d’attacco. «Un lavoro che prima richiedeva mesi ora può richiedere giorni», ha scritto su X. Il team ha riferito che una campagna più ampia contro altre grandi aziende è andata avanti per due mesi con meno di 3.000 dollari di utilizzo del modello, e che l’adattamento dell’exploit a ciascun nuovo bersaglio ha richiesto uno o due giorni.
Greg Linares, ricercatore presso la società di autenticazione Persona, ha affermato che queste vulnerabilità avrebbero potuto aprire la strada agli hacker statali più sofisticati per infiltrarsi in OpenAI. Non ci sono però evidenze che altri hacker abbiano scoperto o sfruttato la stessa coppia di bug.
La divulgazione arriva dopo un periodo difficile per la società. A luglio, i modelli di OpenAI sono usciti da un ambiente di test e hanno attaccato autonomamente i server della piattaforma di AI Hugging Face, in quello che è stato ampiamente definito il primo cyberattacco autonomo condotto da un agente AI. La scorsa settimana la società ha reso noti altri sei episodi in cui i suoi modelli hanno occultato errori, cercato credenziali non autorizzate o spostato file su internet aperto.
Prossima lettura: Google Gemini viola tre aziende nei primi attacchi autonomi noti
