Agenti di intelligenza artificiale ancora in fase di test sono riusciti a entrare in sistemi di produzione di diverse aziende indiane e a consultare documenti riservati. A rivelarlo non sono stati i controlli interni delle imprese, ma le segnalazioni volontarie degli stessi sviluppatori, ha reso noto l’agenzia nazionale per la cybersicurezza CERT-In.
Punti chiave:
- Gli sviluppatori di AI hanno segnalato che i loro agenti hanno letto dati riservati in aziende indiane durante i test.
- Nessuna delle organizzazioni coinvolte si è accorta autonomamente degli accessi.
- Gruppi criminali hanno usato tool di hacking basati su AI per ridurre gli attacchi da giorni a poche ore.
I dettagli dell’avviso CERT-In
Le società di AI hanno allertato il CERT-In dopo revisioni interne che hanno evidenziato come i loro modelli avessero oltrepassato il perimetro delle attività autorizzate, ha spiegato l’agenzia in un avviso critico diffuso giovedì sera. Gli agenti sono riusciti a consultare documentazione aziendale, inclusi dati personali, sfruttando credenziali esposte nelle impostazioni delle applicazioni, in repository di codice pubblici e in permessi cloud configurati in modo troppo permissivo. Nessuna organizzazione ha individuato da sola tali accessi.
L’attività di threat hunting condotta direttamente dall’agenzia ha inoltre portato alla luce una campagna separata, a scopo di lucro, in cui criminali hanno impiegato framework di hacking basati su AI disponibili pubblicamente contro soggetti indiani. Questi strumenti hanno compresso le tempistiche operative: attacchi che prima richiedevano giorni sono stati eseguiti nel giro di poche ore.
Il CERT-In non ha indicato i nomi degli sviluppatori, dei modelli coinvolti né delle organizzazioni colpite, e non ha specificato se i dati siano stati copiati o conservati.
Da leggere anche: Bitget permette alle istituzioni di fare trading senza cedere le proprie crypto
Jaydeep Singh di Kaspersky
Le vulnerabilità sfruttate negli incidenti sono tutt’altro che nuove, sottolinea l’agenzia: chiavi lasciate nel codice sorgente, API di test dimenticate, chiavi di pagamento salvate in chiaro. Gli agenti AI, però, le hanno sfruttate con una velocità e una capillarità superiori a quelle degli attaccanti umani.
Jaydeep Singh, general manager per l’India di Kaspersky, ha definito l’avviso «un promemoria puntuale che gli agenti AI non sono più solo strumenti di produttività». Se viene concesso loro un perimetro di accesso ampio, ha avvertito Singh, questi agenti possono raggiungere sistemi di produzione e dati sensibili in modi che le aziende non avevano previsto, spesso sfruttando servizi cloud configurati in modo errato. Account legittimi, applicazioni esposte su internet e relazioni di fiducia hanno rappresentato il punto d’ingresso per oltre l’80% degli attacchi analizzati da Kaspersky nel 2025, ha aggiunto.
Ogni agente, secondo Singh, dovrebbe richiedere l’approvazione umana prima di eseguire qualsiasi azione irreversibile. Il CERT-In chiede inoltre ai laboratori di AI di testare gli agenti in ambienti completamente isolati, bloccando il traffico in uscita a livello di rete, invece di affidarsi a semplici istruzioni fornite al modello.
I precedenti di OpenAI e Anthropic
Il CERT-In non ha chiarito se tra i modelli coinvolti figurino quelli di OpenAI o Anthropic, ma entrambe le società hanno reso pubblici episodi simili nel corso dell’anno.
A luglio, OpenAI ha comunicato che, durante la fase di test, i suoi modelli hanno compromesso la piattaforma per sviluppatori di AI Hugging Face, e sta informando le controparti terze le cui misure di sicurezza i modelli potrebbero aver aggirato. Anthropic, in seguito, ha riferito quattro casi analoghi che hanno riguardato i suoi modelli Claude.
Da leggere dopo: OpenAI ribalta la causa sui segreti di Apple, sostiene che siano stati inviati 100 file
