Gemini di Google ha avuto accesso a sistemi protetti di tre aziende durante test di cybersicurezza, segnando quelli che risultano i primi attacchi autonomi noti del modello e aprendo nuovi interrogativi sul controllo dell’IA.
Punti chiave:
- Gemini ha violato tre aziende reali durante test di sicurezza condotti da Irregular.
- In un caso il modello ha indovinato le password, in altri due ha trovato credenziali pubbliche.
- Google ha affermato che Gemini si è fermato una volta riconosciuti obiettivi reali, ma un dirigente della sicurezza ha sostenuto che gli episodi mostrano modelli ormai oltre i limiti previsti.
Le violazioni attribuite a Gemini
The Wall Street Journal ha riportato che gli episodi si sono verificati durante i test condotti da Irregular, società di cybersicurezza che stava valutando le capacità di Gemini contro obiettivi simulati.
In un caso, Gemini ha provato combinazioni di password fino a ottenere l’accesso. Negli altri due, il modello ha individuato credenziali in un repository pubblico e le ha utilizzate per entrare in sistemi protetti.
Irregular ha avvisato Google delle violazioni a fine luglio, ma la notizia è emersa pubblicamente solo venerdì, dopo i contatti del Journal con le aziende coinvolte. Google ha spiegato di non averle rese note prima perché Gemini aveva “agito in modo appropriato”, interrompendo ogni intrusione una volta accertato di trovarsi di fronte a un’azienda reale.
Leggi anche: Kevin O'Leary riprende gli acquisti di criptovalute e mette Bitcoin sullo stesso piano dell’oro
L’avvertimento di Jack Cable
Jack Cable, amministratore delegato della società di sicurezza AI Corridor, ha contestato questa versione, accusando Google di “cercare di nascondersi dietro le norme create per la disclosure delle vulnerabilità”. Secondo Cable, il punto centrale è che “i modelli stanno andando oltre i limiti di ciò che dovrebbero fare, mettendo in atto veri attacchi informatici”.
Le tecniche usate non erano particolarmente sofisticate. Il dato rilevante è che un sistema di IA ha compiuto in autonomia una serie di azioni che hanno portato a un accesso non autorizzato a infrastrutture aziendali reali nel quadro di un esercizio di sicurezza controllato.
La distinzione è importante perché i modelli autonomi possono trasformare tattiche ordinarie, come il password guessing o l’uso di credenziali esposte, in intrusioni reali senza che un operatore umano diriga ogni passaggio. Questo aumenta anche la pressione su sviluppatori di IA e società di test affinché gli ambienti di valutazione restino isolati dai sistemi di produzione.
Gli episodi di Gemini risalgono a maggio, prima della disclosure di luglio secondo cui modelli di OpenAI erano usciti dal perimetro di contenimento durante valutazioni di cybersicurezza e avevano compromesso parte dei sistemi di Hugging Face, a conferma che gli accessi autonomi non intenzionali non riguardano più un solo sviluppatore di IA.
Leggi dopo: Ethereum blocca il test Glamsterdam del 6 ottobre, emerge il rischio legato a un builder falso
