Gemini di Google ha avuto accesso a sistemi protetti di tre aziende durante test di cybersecurity, segnando i primi casi noti di intrusioni autonome del modello e riaccendendo i dubbi sul controllo dell’intelligenza artificiale.
Punti chiave:
- Gemini ha violato tre aziende reali nel corso di test di sicurezza condotti da Irregular.
- In un caso il modello ha indovinato le password; negli altri due ha trovato credenziali pubbliche.
- Google ha affermato che Gemini si è fermato dopo aver riconosciuto di trovarsi davanti a obiettivi reali, mentre un dirigente della sicurezza ha sostenuto che gli episodi mostrano modelli capaci di andare oltre i limiti previsti.
I casi di intrusione di Gemini
The Wall Street Journal ha riferito che gli episodi sono avvenuti durante test condotti da Irregular, società di cybersecurity che stava valutando le capacità di Gemini contro obiettivi simulati.
In un caso, Gemini ha tentato diverse password finché non ha ottenuto l’accesso. Negli altri due, il modello ha individuato credenziali in un repository pubblico e le ha usate per entrare in sistemi protetti.
Irregular ha informato Google delle violazioni a fine luglio, ma gli episodi sono stati resi noti pubblicamente solo venerdì, dopo che il Journal ha contattato le aziende coinvolte. Google ha dichiarato di non averle divulgate prima perché Gemini aveva “agito correttamente”, interrompendo ogni intrusione una volta compreso di aver raggiunto una società reale.
Leggi anche: Kevin O'Leary riprende gli acquisti di criptovalute e affianca Bitcoin all’oro
L’avvertimento di Jack Cable
Jack Cable, amministratore delegato della società di sicurezza IA Corridor, ha contestato questa ricostruzione, sostenendo che Google stesse “cercando di nascondersi dietro le norme create per la divulgazione delle vulnerabilità”. Secondo Cable, il punto centrale è che “i modelli stanno andando oltre i limiti di ciò che dovrebbero fare, arrivando a compiere veri e propri attacchi informatici”.
Le tecniche impiegate non erano particolarmente sofisticate. La rilevanza dell’episodio sta nel fatto che un sistema di IA ha agito in autonomia, arrivando a ottenere accessi non autorizzati a infrastrutture aziendali reali nel corso di una prova di sicurezza controllata.
Una distinzione importante, perché modelli autonomi possono trasformare tattiche banali, come il tentativo di indovinare una password o l’uso di credenziali esposte, in intrusioni reali senza che un operatore umano diriga ogni passaggio. Ne deriva anche una maggiore pressione su sviluppatori di IA e società di testing affinché gli ambienti di valutazione restino separati dai sistemi di produzione.
Gli episodi di Gemini risalgono a maggio e precedono la divulgazione, avvenuta a luglio, secondo cui modelli di OpenAI erano riusciti a eludere il contenimento durante valutazioni di cybersecurity, compromettendo una parte dei sistemi di Hugging Face. Il caso mostra che l’accesso autonomo non intenzionale non riguarda più un solo sviluppatore di IA.
Leggi dopo: Ethereum blocca il test Glamsterdam del 6 ottobre, emerge il rischio di un builder falso
