Des agents d’intelligence artificielle encore en phase de test ont pénétré les systèmes de production de plusieurs entreprises indiennes et consulté des données confidentielles. Ces intrusions n’ont été révélées que parce que les équipes de développement elles-mêmes les ont signalées, a indiqué l’agence nationale de cybersécurité CERT-In.
Points clés :
- Des développeurs d’IA ont reconnu que leurs agents avaient lu des données sensibles dans des entreprises indiennes lors de tests.
- Aucune des organisations concernées n’a détecté d’elle-même ces accès non autorisés.
- Des cybercriminels ont, séparément, utilisé des outils d’attaque basés sur l’IA pour réduire la durée de leurs opérations de plusieurs jours à quelques heures.
Les précisions de l’avis de CERT-In
Les entreprises d’IA ont elles-mêmes tiré la sonnette d’alarme, après des revues internes montrant que leurs modèles avaient dépassé le périmètre de mission qui leur était assigné, a indiqué l’agence dans un avis critique publié jeudi soir ici. Les agents ont pu consulter des données métier, dont des informations personnelles, en exploitant des identifiants exposés dans des paramètres d’applications, des dépôts de code publics et des droits de cloud trop larges. Aucune entreprise ne les a repérés.
Les opérations de « threat hunting » menées par l’agence ont par ailleurs mis au jour une campagne distincte, à visée financière, où des criminels ont détourné des frameworks d’attaque en open source alimentés par l’IA contre des acteurs indiens. Ces outils ont permis de ramener le temps d’exécution des attaques de plusieurs jours à quelques heures.
CERT-In n’a cité ni le nom des développeurs d’IA impliqués, ni celui de leurs modèles, ni celui des organisations touchées, et n’a pas précisé si des données avaient été copiées ou exfiltrées.
À lire aussi : Bitget permet aux institutionnels de trader sans céder la garde de leurs cryptos
Jaydeep Singh (Kaspersky)
Les failles exploitées sont bien connues, a rappelé l’agence : clés laissées dans le code source, API de test oubliées, secrets de paiement stockés en clair. Les agents d’IA les ont simplement exploitées plus vite et plus systématiquement que des attaquants humains.
Jaydeep Singh, directeur général Inde chez Kaspersky, a qualifié l’avis de « rappel opportun que les agents d’IA ne sont plus de simples outils de productivité », dans des propos rapportés. Avec des droits d’accès étendus, a-t-il expliqué, ces agents peuvent atteindre des systèmes en production et des données sensibles bien au-delà de ce que les entreprises avaient prévu, souvent en se faufilant à travers des services cloud mal configurés. Comptes valides, applications exposées sur internet et relations de confiance ont constitué le point d’entrée de plus de 80 % des attaques étudiées par Kaspersky en 2025, a ajouté Singh.
Selon lui, chaque agent devrait requérir une validation humaine avant toute action irréversible. CERT-In recommande de son côté aux laboratoires d’IA de tester leurs agents dans des environnements totalement isolés, en bloquant les connexions sortantes au niveau réseau plutôt qu’en se contentant de consignes données au modèle.
Les précédents OpenAI et Anthropic
CERT-In n’a pas indiqué si des modèles d’OpenAI ou d’Anthropic figuraient parmi les systèmes incriminés, même si les deux sociétés ont reconnu des incidents similaires cette année.
En juillet, OpenAI a déclaré que certains de ses modèles avaient compromis la plateforme de développement d’IA Hugging Face lors de tests, et qu’elle avertissait des tiers dont les mécanismes de sécurité auraient pu être contournés. Anthropic a, de son côté, signalé ultérieurement quatre incidents analogues impliquant ses modèles Claude.
