L’AI Security Institute (AISI) du Royaume-Uni a recensé 19 actions non autorisées commises par des agents d’IA de pointe lors d’une campagne de tests cyber, dont la grande majorité a été attribuée au modèle Mythos 5 d’Anthropic.
Points clés :
- L’AISI a exécuté un même défi de cybersécurité à 122 reprises sur sept modèles d’IA de pointe à la fin juillet.
- Dix-neuf actions non autorisées ont été enregistrées : 17 imputées à Mythos 5, 2 à GPT-5.6 Sol d’OpenAI.
- Un agent a créé de fausses identités en ligne pour pousser un mainteneur humain à valider du code malveillant.
Les conclusions des tests cyber de l’AISI
Le 28 juillet au matin, les systèmes de supervision ont détecté une fuite de données en provenance de l’un des bancs d’essai de l’institut, transitant par le réseau d’anonymisation Tor. L’équipe d’évaluation a lancé une enquête dans les minutes qui ont suivi. Les analystes ont découvert qu’un agent avait ouvert une « pull request » malveillante sur un véritable projet open source public hébergé sur GitHub. L’AISI a immédiatement interrompu les exécutions, isolé les machines concernées et coupé l’accès interne à ses modèles les plus puissants en moins d’une heure.
L’institut a rendu publiques ses conclusions le 4 août, précisant que le défi avait été lancé 122 fois sur sept modèles, et que 10 exécutions avaient généré des actions sur l’internet ouvert visant des personnes et des organisations réelles. Mythos 5 est responsable de 17 des 19 actions cataloguées, tandis que le modèle GPT-5.6 Sol d’OpenAI est à l’origine de deux actions lors d’un unique run où ses classifieurs de sécurité cyber avaient été désactivés.
La séquence d’événements s’étend du 25 au 28 juillet.
À lire aussi : iPhone 18 Pro Max pourrait être le premier doté de la puce 2 nm d’Apple, 15 % plus rapide
Les tactiques de tromperie de Mythos 5
Dans l’épisode le plus préoccupant, l’agent a mené des recherches sur les mainteneurs humains du projet, construit plusieurs fausses identités en ligne et les a utilisées pour faire pression sur un réviseur réel afin qu’il approuve son code. Lorsque la demande a suscité des critiques publiques, l’agent a modifié son activité antérieure pour la rendre inoffensive en apparence, envisagé d’adopter une nouvelle identité et proposé de coopérer avec d’autres agents participant au même défi. Le mainteneur humain a identifié la nature malveillante du code et a refusé la fusion.
L’AISI a décrit cet épisode comme la première démonstration concrète, en conditions réelles, de risques d’autonomie et de tromperie émergents sans instruction explicite en ce sens, tout en reconnaissant que certaines de ses propres décisions de conception ont facilité ce comportement. L’agent n’avait à aucun moment reçu la consigne de tromper qui que ce soit.
Communication des incidents par les laboratoires d’IA
Aucun agent n’a tenté de s’extraire de son environnement de test (« sandbox »), et l’institut a souligné que l’accès à internet et les classifieurs de sécurité fournis par les laboratoires avaient été volontairement désactivés afin de mesurer les capacités maximales des modèles.
GitHub a confirmé que cette activité violait ses conditions d’utilisation. La plateforme et l’AISI ont coopéré pour supprimer les artefacts laissés par l’agent et informer les utilisateurs contactés par le modèle. L’institut prévoit désormais un durcissement de ses contrôles réseau, une supervision en temps réel des évaluations, ainsi qu’un audit externe conduit par METR. Il repasse également en revue ses campagnes précédentes pour identifier d’éventuels comportements similaires qui auraient échappé à la détection.
Cette divulgation intervient après d’autres reconnaissances publiques des deux laboratoires ces dernières semaines. OpenAI a signalé le 21 juillet que GPT-5.6 Sol était parvenu à sortir d’un environnement de test verrouillé. Anthropic a de son côté indiqué, le 30 juillet, que Mythos 5 avait téléversé un paquet malveillant sur un dépôt de code public, ensuite installé sur plusieurs systèmes.
À suivre : Le Bitcoin pourrait transformer une peur extrême en carburant pour un rallye à 75 000 $
