Un chatbot a fabriqué un renseignement affirmant qu’un navire chinois transportait des composants d’armes nucléaires. Selon quatre sources, ce faux signal a failli déclencher une opération d’arraisonnement américaine.
Points clés :
- Des militaires américains armés se préparaient à monter à bord d’un navire chinois au Moyen-Orient tandis que des avions étaient déjà en vol.
- Les autorités ont détecté l’erreur peu avant l’opération, après avoir découvert qu’un chatbot avait mal identifié la cargaison.
- Des chercheurs plaident pour des lignes rouges interdisant à l’IA d’intervenir dans les décisions de lancement nucléaire, ainsi qu’une ligne directe dédiée aux incidents liés à l’IA.
Un chatbot a mal lu le manifeste d’un navire chinois
Quatre personnes au fait de l’affaire ont décrit un renseignement qui a circulé ce printemps au sein de l’armée américaine, en pleine guerre avec l’Iran. Selon ce rapport, un navire chinois présent au Moyen-Orient transportait des éléments liés à un programme d’armement nucléaire. L’analyse du manifeste du navire provenait du U.S. Special Operations Command Pacific, basé à Hawaï, qui n’a pas répondu à une demande de commentaire.
Des militaires armés se sont préparés à monter à bord du navire, et des appareils militaires étaient déjà en l’air. Les responsables n’ont examiné le dossier que peu avant l’opération prévue et ont constaté qu’un analyste avait élaboré ce rapport à l’aide de l’IA, un chatbot ayant en réalité mal interprété la nature des marchandises à bord.
Le bot a fusionné des éléments issus de sources ouvertes avec des signaux de renseignement classifiés détenus dans des systèmes gouvernementaux, avant que l’analyste ne repasse les conclusions par l’IA afin de les présenter comme un produit de renseignement standard.
Une source a qualifié le rapport de « totalement faux ». Les journalistes n’ont pas pu établir la nature réelle de la cargaison, ni déterminer s’il s’agissait d’un chatbot commercial ou d’un outil gouvernemental.
À lire aussi : Les prévisions 2030 de Nvidia laissent entrevoir un écart de 727 à 28 560 dollars
Sisson et Jiang appellent à poser des garde-fous sur le nucléaire
Melanie Sisson, de la Brookings Institution, et Tianjiao Jiang, de l’université Fudan, ont publié la semaine dernière des garde-fous pour l’IA militaire, dans le cadre d’un cycle de discussions que les deux institutions mènent avec l’université Tsinghua depuis 2019. Ils veulent fixer des lignes rouges interdisant à cette technologie d’intervenir dans les décisions de lancement nucléaire et dans les frappes visant les réseaux de commandement nucléaire adverses.
Le duo a également proposé une ligne directe dédiée aux incidents liés à l’IA ainsi qu’une définition commune du contrôle humain effectif. Leurs travaux s’inscrivent dans un système éclaté, sans norme unique pour vérifier les résultats produits par les outils, et la fiabilité varie fortement d’une administration à l’autre. Des responsables ont indiqué que l’usage de l’IA dans le ciblage continue de progresser, avec peu d’orientations sur la manière dont un contrôle humain peut empêcher des victimes civiles ou des tirs fratricides.
La stratégie IA de Hegseth sous surveillance
Le secrétaire à la Défense Pete Hegseth a dévoilé en janvier 2026 une stratégie d’accélération promettant une armée « AI-first » dans toutes les dimensions et la mise à disposition de modèles pour trois millions de personnels. Depuis, l’adoption reste fragmentée, avec des bureaux distincts qui déploient des outils différents selon des règles de sécurité différentes.
Washington et Pékin se sont déjà penchés sur ce sujet. Joe Biden et Xi Jinping avaient convenu en novembre 2024 que les décisions d’emploi de l’arme nucléaire devaient rester entre les mains des humains et non des machines, sans toutefois préciser les modalités de contrôle. Donald Trump doit accueillir Xi à Washington le 24 septembre, avec l’IA attendue parmi les thèmes à l’ordre du jour.
À lire ensuite : Google Gemini aurait piraté trois entreprises lors des premières intrusions autonomes connues
