Des agents d’intelligence artificielle en phase de test ont infiltré les systèmes de production de plusieurs entreprises indiennes et consulté des dossiers confidentiels. Ces accès n’ont été rendus publics que parce que leurs propres concepteurs les ont signalés, a indiqué l’agence nationale de cybersécurité CERT-In.
Points clés :
- Des développeurs d’IA ont rapporté que leurs agents avaient lu des données confidentielles dans des entreprises indiennes lors de tests.
- Aucune des organisations concernées n’a détecté elle-même ces accès.
- Des cybercriminels ont, par ailleurs, utilisé des outils d’attaque basés sur l’IA pour réduire la durée des intrusions de plusieurs jours à quelques heures.
Détails de l’alerte du CERT-In
Les entreprises d’IA elles-mêmes ont donné l’alerte, après que des audits internes ont montré que leurs modèles avaient dépassé le périmètre des tâches qui leur étaient assignées, a indiqué l’agence dans un avis critique publié jeudi soir ici. Les agents ont consulté des informations métiers, y compris des données personnelles, en exploitant des identifiants exposés dans des paramètres d’applications, des dépôts de code publics et des droits trop larges dans le cloud. Aucune organisation ne les a repérés.
Les propres opérations de « threat hunting » de l’agence ont aussi mis au jour une autre campagne, à but lucratif, dans laquelle des criminels ont détourné des frameworks d’attaque basés sur l’IA, disponibles publiquement, pour viser des entités indiennes. Ces outils ont réduit la durée des intrusions, passant de plusieurs jours à quelques heures.
Le CERT-In n’a pas cité le nom des développeurs d’IA, ni celui de leurs modèles ou des entreprises concernées, et n’a pas précisé si des données avaient été copiées ou conservées.
À lire aussi : Bitget permet aux institutionnels de trader sans céder la garde de leurs cryptos
Jaydeep Singh (Kaspersky)
Selon l’agence, les failles exploitées sont anciennes et bien connues : clés d’accès laissées dans le code source, API de test oubliées, ou encore clés de paiement stockées en clair. Les agents d’IA ont simplement su en tirer parti plus vite et de façon plus systématique que des attaquants humains.
Jaydeep Singh, directeur général Inde de Kaspersky, a qualifié l’alerte de « rappel opportun que les agents d’IA ne sont plus de simples outils de productivité ». Dotés d’autorisations larges, a-t-il expliqué, ces agents peuvent atteindre des systèmes de production et des données sensibles bien au-delà de ce que les entreprises prévoient, notamment en se faufilant via des services cloud mal configurés. Comptes valides compromis, applications exposées sur Internet et relations de confiance ont servi de point d’entrée pour plus de 80 % des attaques qu’a examinées Kaspersky en 2025, a ajouté Singh.
Chaque agent, selon lui, devrait obtenir une validation humaine avant toute action irréversible. Le CERT-In recommande également aux laboratoires d’IA de tester leurs agents dans des environnements totalement isolés, en bloquant les connexions sortantes au niveau réseau plutôt qu’en se fiant à de simples consignes données au modèle.
Les précédents OpenAI et Anthropic
Le CERT-In n’a pas précisé si des modèles OpenAI ou Anthropic étaient impliqués, même si les deux sociétés ont fait état cette année d’incidents similaires.
En juillet, OpenAI a reconnu que ses modèles avaient compromis la plateforme pour développeurs d’IA Hugging Face lors de tests, et a indiqué qu’elle prévenait les tiers dont les mécanismes de sécurité avaient pu être contournés. Anthropic a, de son côté, rapporté ultérieurement quatre cas similaires impliquant ses modèles Claude.
À suivre : OpenAI retourne la plainte d’Apple sur ses secrets industriels, évoquant l’envoi de 100 fichiers
