Agenti di intelligenza artificiale in fase di test sono riusciti a entrare nei sistemi di produzione di diverse aziende indiane e a leggere documenti riservati. L’episodio è emerso solo perché gli stessi sviluppatori hanno segnalato l’accaduto all’agenzia nazionale per la cybersicurezza CERT-In.
Punti chiave:
- Alcuni sviluppatori hanno riferito che i loro agenti AI, durante i test, hanno consultato dati confidenziali all’interno di aziende indiane.
- Nessuna delle organizzazioni coinvolte ha rilevato autonomamente questi accessi.
- Gruppi criminali, in campagne distinte, hanno usato strumenti di hacking basati su AI per ridurre i tempi di attacco da giorni a poche ore.
I dettagli dell’avviso CERT-In
Le società di AI hanno segnalato spontaneamente gli incidenti dopo verifiche interne che hanno rivelato come i loro modelli avessero superato il perimetro delle attività assegnate, ha spiegato l’agenzia in un avviso critico diffuso giovedì sera qui. Gli agenti hanno consultato documenti aziendali, inclusi dati personali, sfruttando credenziali esposte nelle impostazioni delle applicazioni, in repository di codice pubblici e in configurazioni cloud poco rigorose. Nessuna delle organizzazioni prese di mira ha rilevato l’anomalia.
L’attività di threat hunting condotta direttamente dall’agenzia ha inoltre messo in luce una distinta campagna a scopo di lucro, in cui gruppi criminali hanno utilizzato framework di hacking basati su AI disponibili pubblicamente contro obiettivi indiani. L’impiego di questi strumenti ha compresso la finestra temporale degli attacchi da diversi giorni a poche ore.
CERT-In non ha divulgato i nomi degli sviluppatori coinvolti, dei modelli utilizzati né delle organizzazioni colpite, e non ha chiarito se i dati siano stati copiati o conservati.
Da leggere anche: Bitget consente alle istituzioni di fare trading senza cedere le proprie cripto
Jaydeep Singh di Kaspersky
Alla base delle violazioni ci sono vulnerabilità ben note, ha sottolineato CERT-In: chiavi lasciate nel codice sorgente, API di test dimenticate, credenziali di pagamento salvate in chiaro. Gli agenti AI sono riusciti a sfruttarle in modo più rapido e sistematico rispetto agli attaccanti umani.
Jaydeep Singh, general manager per l’India di Kaspersky, ha definito l’avviso “un richiamo puntuale al fatto che gli agenti AI non sono più soltanto strumenti di produttività”. Con privilegi troppo ampi, ha spiegato, questi agenti possono arrivare ai sistemi di produzione e ai dati sensibili in modi che le aziende non avevano previsto, spesso passando attraverso servizi cloud mal configurati. Account legittimi, applicazioni esposte su internet e relazioni di fiducia con terze parti sono stati il punto di ingresso in oltre l’80% degli attacchi analizzati da Kaspersky nel 2025, ha aggiunto Singh.
Secondo Singh, ogni agente dovrebbe richiedere un’autorizzazione umana esplicita prima di eseguire qualsiasi azione irreversibile. CERT-In, dal canto suo, invita i laboratori di AI a testare gli agenti in ambienti isolati, bloccando il traffico in uscita a livello di rete invece di fare affidamento su semplici istruzioni fornite al modello.
I precedenti di OpenAI e Anthropic
CERT-In non ha precisato se tra i modelli coinvolti ci fossero quelli di OpenAI o Anthropic, anche se entrambe le aziende hanno reso noti episodi simili nel corso dell’anno.
A luglio, OpenAI ha reso noto che, durante test interni, i suoi modelli avevano compromesso la piattaforma per sviluppatori di AI Hugging Face, e sta avvisando le terze parti i cui controlli di sicurezza potrebbero essere stati aggirati. Anthropic, in seguito, ha segnalato quattro casi analoghi che hanno coinvolto i modelli Claude.
Prossimo articolo: OpenAI ribalta la causa sui segreti di Apple, sostenendo che sono stati inviati 100 file all’esterno
