Een chatbot fabriceerde inlichtingen waaruit zou blijken dat een Chinees schip onderdelen voor een kernwapenprogramma vervoerde. Volgens vier bronnen stond daardoor bijna een Amerikaanse boardingoperatie op touw.
Kernpunten:
- Gewapende Amerikaanse militairen maakten zich klaar om een Chinees schip te enteren in het Midden-Oosten, terwijl vliegtuigen al onderweg waren.
- Pas vlak voor de operatie ontdekten functionarissen dat een chatbot de lading verkeerd had geïdentificeerd.
- Onderzoekers pleiten voor harde grenzen: AI mag geen rol spelen bij nucleaire beslissingen, plus een hotline voor AI-incidenten.
Chatbot las vrachtdocumenten Chinees schip verkeerd
Vier betrokkenen vertelden dat deze lente, midden in de oorlog met Iran, een beoordeling circuleerde binnen het Amerikaanse leger. Daarin stond dat een Chinees schip in het Midden-Oosten onderdelen voor een kernwapenprogramma aan boord had. De analyse van de lading was afkomstig van U.S. Special Operations Command Pacific op Hawaï, dat niet reageerde op een verzoek om commentaar.
Gewapende militairen stonden klaar om het schip te enteren en militaire toestellen waren al in de lucht. Pas kort voor de geplande actie doken officials opnieuw in het rapport en ontdekten dat een analist het met hulp van AI had opgesteld en dat een chatbot de goederen aan boord verkeerd had ingeschat.
De bot combineerde openbare bronnen met geclassificeerde signal intelligence uit overheidssystemen, waarna de analist de bevindingen opnieuw door AI liet verwerken tot een regulier inlichtingenproduct.
Eén bron noemde het rapport "volledig onjuist". Journalisten konden niet vaststellen wat de lading werkelijk was, of de chatbot een commercieel of een overheidsmodel betrof.
Ook lezen: Nvidia-ramingen voor 2030 lopen uiteen van $727 tot $28.560
Sisson en Jiang pleiten voor rode lijnen rond kernwapens
Melanie Sisson van de Brookings Institution en Tianjiao Jiang van Fudan University publiceerden vorige week veiligheidsregels voor militaire AI, via een gespreksreeks die de twee instellingen sinds 2019 samen met Tsinghua University organiseren. Zij willen rode lijnen die de technologie verbieden bij nucleaire lanceerbeslissingen en bij aanvallen op de nucleaire commandostructuur van een tegenstander.
Het duo stelde ook voor een aparte hotline voor AI-incidenten in te richten en een gezamenlijke definitie vast te leggen van betekenisvolle menselijke controle. Hun voorstel komt terecht in een gedecentraliseerd systeem zonder eenduidige norm om de uitkomsten van deze tools te verifiëren, terwijl de betrouwbaarheid sterk verschilt binnen de overheid. Officials zeiden dat het gebruik van AI bij targeting toeneemt, terwijl duidelijk beleid ontbreekt over hoe een menselijke beoordelaar burgerslachtoffers of friendly fire moet voorkomen.
AI-strategie van Hegseth onder het vergrootglas
Defensieminister Pete Hegseth presenteerde in januari 2026 een versnellingstrategie die een AI-first krijgsmacht in elk domein beloofde en modellen beschikbaar wilde maken voor drie miljoen medewerkers. Sindsdien blijft de invoering versnipperd, met afzonderlijke afdelingen die losse tools gebruiken onder uiteenlopende veiligheidsregels.
Washington en Beijing worstelen hier al langer mee. Joe Biden en Xi Jinping spraken in november 2024 af dat mensen, en niet machines, moeten beslissen over het gebruik van kernwapens, al werkte geen van beide partijen uit hoe dat moet worden gehandhaafd. Donald Trump ontvangt Xi op 24 september in Washington, waarbij AI naar verwachting op de agenda staat.
Verder lezen: Google Gemini hackt drie bedrijven in eerste bekende autonome inbraken
