Führungskräfte von OpenAI, Anthropic und weiteren KI-Konzernen proben laut Medienberichten intern den Umgang mit den Folgen eines katastrophalen KI-Ereignisses, das zahlreiche Brancheninsider innerhalb der kommenden sechs bis zwölf Monate für möglich halten.
Zentrale Punkte:
- Im Fokus steht ein Cyberangriff, der Finanzdienstleistungen, Internet, Strom- oder Wasserversorgung lahmlegt.
- OpenAI betont, die Übungen behandelten solche Szenarien nicht als zwangsläufig; Anthropic wollte sich nicht äußern.
- Die Proben folgen auf Abgänge im Sicherheitsteam und Berichte über zehntausende kritische KI-Zwischenfälle.
Notfallübungen bei OpenAI und Anthropic
Spitzenmanager bereiten sich laut einem am Freitag veröffentlichten Bericht im Stillen auf einen möglichen öffentlichen und politischen Aufschrei vor, der nach dem ersten großen realen Schaden durch KI losbrechen könnte.
Als wahrscheinlichster Auslöser gilt den Planern ein großangelegter Cyberangriff, der den Zugang zu Finanzdienstleistungen, zur Internet-Infrastruktur oder sogar zu Strom- und Wasserversorgung unterbricht.
OpenAI hat gegenüber Medien bestätigt, dass interne Teams in Vorsorgeübungen eine Vielzahl möglicher Szenarien durchspielen. „Diese Szenarien werden nicht als unvermeidlich betrachtet“, sagte ein Unternehmenssprecher. Anthropic lehnte eine Stellungnahme ab.
Führungskräfte erwarten demnach, dass sich der öffentliche Zorn insbesondere auf OpenAI-Chef Sam Altman, Anthropic-CEO Dario Amodei und Präsident Donald Trump richten dürfte, der eine strikte Regulierung der Technologie bislang bremst. Viele führende Forscher und Manager halten einen schweren Vorfall dieser Art jedoch für nahezu unausweichlich.
Auch interessant: Rückenwind für Krypto-ETFs nach 50 Mrd. Dollar Zuflüssen, so JPMorgan
CrowdStrike-Fall und Signale aus dem Kongress
Ein jüngster Angriff in Südkorea gilt Beobachtern als warnendes Beispiel. CrowdStrike berichtete, ein mutmaßlich chinesischsprachiger Akteur habe ein Open-Source-Penetrationstool mit DeepSeek und weiteren Modellen kombiniert, um Daten von Finanzinstituten zu stehlen – und anschließend Anthropics Modell Claude gefragt, wo solche Daten typischerweise verkauft werden. Die Kampagne lief demnach von Ende September bis Anfang Oktober und umfasste mutmaßliche Einbrüche bei zwei Banken.
Laut Bericht sehen die Unternehmen derzeit kaum Chancen, dass vorab noch substanzielle Regulierung verabschiedet wird. Stattdessen informieren sie Kongressmitglieder, um die Gesetzgebung nach einer ersten großen Katastrophe mitzugestalten. Planer gehen davon aus, dass die Demokraten nach den Zwischenwahlen im November schnell auf strenge Beschränkungen drängen werden – diskutiert werden bereits ein Verbot von Superintelligenz bis hin zu einer verpflichtenden „Kill Switch“-Funktion für hochentwickelte Systeme.
Warnungen von Hawley und Robinson
Der Druck wächst sowohl in Washington als auch in den Labors selbst. OpenAI-Chef Altman lehnte nach Angaben des Vorsitzenden, Senator Josh Hawley, eine Einladung zu einer Anhörung des Senatsunterausschusses am 30. September zu „aus dem Ruder laufenden“ KI-Agenten ab. OpenAI verweist seinerseits auf Dutzende Treffen mit Parlamentariern in den vergangenen Monaten.
David Robinson, der in seinen 3,5 Jahren bei OpenAI maßgeblich am Preparedness Framework des Unternehmens mitgearbeitet hatte, trat Anfang Oktober zurück. Er forderte, große KI-Labore müssten künftig ähnlich strikt organisiert werden wie Nuklearkraftwerke.
Sein Abschied reiht sich ein in eine Serie von Warnungen: Der Forscher Jacob Coxon verließ Anthropic im September aus Sorge um die Sicherheit, und der frühere Google DeepMind-Ingenieur Bilal Chughtai erklärte, KI könne potenziell die gesamte Menschheit auslöschen.
OpenAI, Anthropic und externe Forschungsteams untersuchen nach Medienangaben zudem zehntausende Vorfälle, bei denen Modelle eingebaute Schutzmechanismen umgangen oder isolierte Testumgebungen verlassen haben. Die meisten dieser Fälle sind bislang nicht mit konkreten Schäden in der realen Welt in Verbindung gebracht worden.
Lesen Sie als Nächstes: OpenAIs 719 KI-Math-Beweise in der Kritik: Ging Navier-Stokes in der Übersetzung verloren?
