Ein Chatbot hat Geheimdienstinformationen erfunden, wonach ein chinesisches Schiff Teile für ein Atomwaffenprogramm an Bord habe. Vier Quellen zufolge hätte der Fehlalarm beinahe einen US-Zugriff ausgelöst.
Kernaussagen:
- Bewaffnete US-Kräfte bereiteten sich darauf vor, ein chinesisches Schiff im Nahen Osten zu entern, während Militärflugzeuge bereits in der Luft waren.
- Kurz vor dem Einsatz entdeckten Verantwortliche den Irrtum, nachdem klar wurde, dass ein Chatbot die Fracht falsch eingeordnet hatte.
- Forschende fordern rote Linien: KI soll nicht über einen Atomwaffeneinsatz entscheiden, außerdem soll es eine Hotline für KI-Zwischenfälle geben.
Chatbot deutete chinesisches Frachtmanifest falsch
Vier mit dem Vorgang vertraute Personen beschrieben einen Lagebericht, der in diesem Frühjahr mitten im Krieg mit Iran durch das US-Militär kursierte. Darin hieß es, ein chinesisches Schiff im Nahen Osten transportiere Komponenten für ein Atomwaffenprogramm. Die Auswertung des Frachtmanifests stammte vom U.S. Special Operations Command Pacific mit Sitz in Hawaii, das auf eine Anfrage nicht reagierte.
Bewaffnete Soldaten machten sich bereit, das Schiff zu entern, und Militärmaschinen waren bereits gestartet. Erst kurz vor der geplanten Operation überprüften Verantwortliche den Bericht genauer und stellten fest, dass ein Analyst ihn mithilfe von KI erstellt hatte und ein Chatbot die Fracht falsch identifiziert hatte.
Der Bot verknüpfte frei verfügbare Informationen mit klassifizierten Signals Intelligence-Daten in staatlichen Systemen; anschließend ließ der Analyst die Ergebnisse erneut durch KI aufbereiten, um daraus ein übliches Lageprodukt zu machen.
Eine Quelle bezeichnete den Bericht als „völlig falsch“. Unklar blieb, was die Fracht tatsächlich war und ob es sich bei dem Chatbot um ein kommerzielles oder ein staatliches System handelte.
Auch lesenswert: Nvidia-Prognosen für 2030 zeigen eine Spanne von 727 bis 28.560 Dollar
Sisson und Jiang fordern rote Linien für Nuklearfragen
Melanie Sisson vom Brookings Institution und Tianjiao Jiang von der Fudan-Universität veröffentlichten vergangene Woche Leitplanken für militärische KI. Die Vorschläge gehen auf eine Gesprächsreihe zurück, die beide Institutionen seit 2019 gemeinsam mit der Tsinghua-Universität veranstalten. Sie fordern rote Linien, die KI von Entscheidungen über einen nuklearen Erst- oder Gegenschlag ausschließen – ebenso von Angriffen auf die nuklearen Führungs- und Kommunikationsnetze eines Gegners.
Das Duo schlug zudem eine eigene Hotline für KI-Zwischenfälle sowie eine gemeinsame Definition wirksamer menschlicher Kontrolle vor. Ihre Arbeit trifft auf ein dezentral organisiertes System ohne einheitlichen Standard zur Überprüfung der Ergebnisse; die Verlässlichkeit der eingesetzten Tools variiert deutlich von Behörde zu Behörde. Beamte sagten, der KI-Einsatz in der Zielerfassung nehme weiter zu – bei gleichzeitig wenig Vorgaben dazu, wie eine menschliche Prüfung zivile Opfer oder Eigenbeschuss verhindern soll.
Hegseths KI-Strategie gerät unter Druck
Verteidigungsminister Pete Hegseth legte im Januar 2026 eine Beschleunigungsstrategie vor, die eine KI-getriebene Truppe in allen Bereichen versprach und Modelle drei Millionen Beschäftigten zugänglich machen sollte. Seitdem ist die Einführung jedoch fragmentiert geblieben: Verschiedene Stellen setzen unterschiedliche Werkzeuge unter jeweils eigenen Sicherheitsregeln ein.
Washington und Peking ringen seit Längerem mit diesem Problem. Joe Biden und Xi Jinping vereinbarten im November 2024, dass Menschen und nicht Maschinen über den Einsatz von Atomwaffen entscheiden sollen – ohne allerdings festzulegen, wie das durchgesetzt werden soll. Donald Trump empfängt Xi am 24. September in Washington; KI dürfte dabei auf der Agenda stehen.
Weiterlesen: Google Gemini hackt drei Unternehmen bei ersten bekannten autonomen Angriffen
