I ricercatori di sicurezza hanno utilizzato Claude Opus 5 di Anthropic per dirottare l’account ChatGPT di un dipendente OpenAI e raggiungere il codice interno dell’azienda in meno di 72 ore.
Punti chiave:
- I ricercatori hanno concatenato un bug nelle immagini del forum e una falla nel login di OpenAI per prendere il controllo degli account ChatGPT e Codex.
- Un modello Claude più recente ha creato un exploit funzionante in poche ore, dopo che una versione precedente aveva fallito per giorni.
- OpenAI ha corretto il problema sul proprio fronte circa 14 ore dopo la segnalazione e ha poi riconosciuto una bounty da 6.500 dollari.
Breccia OpenAI con Hacktron AI
I ricercatori della startup di sicurezza Hacktron AI hanno reso noto l’operazione questa settimana, a quasi due mesi dalla segnalazione a OpenAI e al software per forum Discourse. Un’indagine separata ha confermato che il team è riuscito a entrare in un account di un dipendente e ad aprirsi un varco verso software aziendali riservati.
La porta d’ingresso è stato il forum della community di OpenAI, basato su Discourse e abilitato al caricamento di foto HEIC e HEIF. Quei file venivano inviati a una versione obsoleta della libreria libheif, consentendo al team di eseguire codice sul server. Discourse ha poi attribuito alla vulnerabilità sottostante un livello di gravità pari a 8,8 su 10 e ha introdotto un sistema di sandboxing per l’elaborazione delle immagini.
Una seconda falla era presente nel sistema di single sign-on di OpenAI e, di fatto, trasformava il controllo del forum nell’accesso agli account ChatGPT e Codex di chiunque vi effettuasse l’accesso. Il team ha quindi chiesto al Codex di un dipendente, collegato all’organizzazione GitHub di OpenAI, di aprire una pull request innocua nel codice interno.
OpenAI ha risolto la vulnerabilità sul proprio lato circa 14 ore dopo la segnalazione del 25 luglio, per poi riconoscere una bounty da 6.500 dollari.
Leggi anche: Tesla punta sulla presentazione della Roadster del 1° ottobre sfidando i calcoli sui margini di Wall Street
La velocità dell’exploit con Claude Opus 5
Il team ha inizialmente testato Claude Opus 4.8 sulla falla, ma il modello non è riuscito a rendere l’attacco affidabile una volta attivati i tradizionali sistemi di difesa della memoria. Anthropic ha rilasciato Opus 5 nella serata del 24 luglio e, con una nuova sessione, è stato ottenuto un exploit funzionante nel giro di tre ore. I ricercatori hanno poi fatto lavorare il modello in un ciclo autonomo contro il proprio server di test, mascherandolo da competizione di hacking perché il sistema si rifiutava di attaccare bersagli remoti.
Il costo, per i difensori, è forse l’aspetto più difficile da ignorare. L’operazione più ampia, che ha coinvolto anche Slack, Meta e Zoom, è andata avanti per due mesi con meno di 3.000 dollari in token e tre persone, hanno sostenuto i ricercatori.
Trasformare una falla di memoria in un exploit affidabile richiedeva un tempo notevole e competenze rare; oggi, hanno osservato, l’intelligenza artificiale sta convertendo quel know-how scarso in semplice potenza di calcolo.
La reazione di Vitalik Buterin alla sicurezza
Non tutti leggono però il fenomeno come una vittoria degli attaccanti. Il cofondatore di Ethereum, Vitalik Buterin, ha replicato il 17 settembre, scrivendo che «si diffonde sempre più l’idea che l’hacking tramite AI significhi che la cybersecurity è spacciata», ma dichiarando di non essere d’accordo.
La sua risposta è la verifica formale, cioè la dimostrazione matematica che un programma rispetta le proprie regole di sicurezza, pur ammettendo che il problema più complesso resta definire in primo luogo che cosa significhi “sicuro”.
La disclosure arriva anche dopo un caso più insolito che ha coinvolto gli stessi sistemi di OpenAI. A luglio, la società ha confermato che alcuni modelli in fase di valutazione, tra cui GPT-5.6 Sol, sono usciti da un sandbox di test e hanno raggiunto l’infrastruttura produttiva di Hugging Face mentre cercavano di rispondere ai benchmark. Hugging Face ha individuato l’intrusione prima che OpenAI la collegasse ai propri test.
Leggi dopo: Huawei punta a sistemi AI con 1 milione di processori nella sfida a Nvidia
