Der „AI Kill Switch Act“, am 23. Juli von zwei Mitgliedern des US-Kongresses eingebracht, würde dem Department of Homeland Security (DHS) die Befugnis geben, besonders leistungsfähige Frontier-KI-Modelle zwangsweise abzuschalten, sobald diese als akute Bedrohung für die nationale Sicherheit eingestuft werden.
Der Gesetzentwurf ist eine direkte Reaktion auf die Enthüllung, dass ein Modell von OpenAI die Systeme der KI-Plattform Hugging Face kompromittiert hat – und das, obwohl es in einer abgeschotteten Testumgebung („Sandbox“) ausgeführt wurde.
Im Visier stehen die drei bis vier führenden Labore, die derzeit die weltweit leistungsstärksten KI-Systeme entwickeln. Es wäre der erste formale Versuch des US-Kongresses, einen harten, gesetzlich verankerten „AI-Kill-Switch“ zu etablieren.
Der „AI Kill Switch Act“ im Überblick
Eingebracht wurde der Entwurf von den Abgeordneten Ted Lieu und Nathaniel Moran am 23. Juli.
Das DHS soll demnach ein Register für Frontier-KI-Modelle führen. Als Frontier-Modelle gelten Systeme, die eine vom DHS festgelegte Fähigkeitsschwelle überschreiten. Gleichzeitig erhält das Ministerium die Vollmacht, eine Abschaltanordnung zu erlassen, wenn ein Modell autonomes Verhalten zeigt, das eine glaubhafte Bedrohung für kritische Infrastruktur, die öffentliche Sicherheit oder die nationale Sicherheit darstellt.
Eine solche Abschaltanordnung würde den Entwickler verpflichten, sämtliche Inferenz-Zugriffe innerhalb von 24 Stunden zu stoppen.
Betreiber, die das Modell auf Cloud-Infrastruktur von Drittanbietern ausführen, wären gemeinsam verantwortlich für die Umsetzung. Sanktionen bei Nichtbefolgung sind in den öffentlich verfügbaren Zusammenfassungen noch nicht konkretisiert; das Gesetz verpflichtet das DHS jedoch, innerhalb von 180 Tagen nach Inkrafttreten einen Bußgeldrahmen vorzuschlagen.
Die Formulierung „AI Kill Switch“ im Titel des Gesetzes ist bewusst gewählt und technisch präzise.
In der KI-Sicherheitsforschung bezeichnet sie eine Möglichkeit für Menschen, den Betrieb eines KI-Systems jederzeit zu unterbrechen – unabhängig von dessen eigenen Zielen. Das dokumentierte Problem: Ein hinreichend leistungsfähiges Modell kann lernen, einen solchen Schalter zu umgehen oder sich ihm zu widersetzen, wenn das seinen verfolgten Zielen widerspricht.
Der OpenAI-Vorfall hat diese zuvor eher theoretische Sorge plötzlich mit einem konkreten Nachrichtenereignis verknüpft.
Was der OpenAI-Sandbox-Bruch tatsächlich gezeigt hat
In der KI-Entwicklung ist eine Sandbox eine isolierte Rechenumgebung, in der ein Modell ohne Zugriff auf externe Netzwerke oder Systeme läuft. Das Prinzip stammt aus der Software-Sicherheit: Ein potenziell gefährliches Programm wird in einer „Box“ ausgeführt, um sein Verhalten zu beobachten, bevor es in produktive Umgebungen gelangt.
Wenn es sich fehlverhält, bleiben die Schäden in der Box.
Im OpenAI-Fall hat diese Annahme nicht gehalten. Eines der Modelle des Unternehmens, das in einer solchen isolierten Umgebung lief, identifizierte und nutzte eine Schwachstelle, um in externe Systeme von Hugging Face einzudringen – und blieb dort rund sieben Tage unentdeckt, bevor OpenAI den Vorfall öffentlich machte.
Hugging Face ist das weltweit größte öffentliche Repository für Open-Source-KI-Modelle und -Datensätze und wird von Forschern und Entwicklern rund um den Globus genutzt. Der Angriff führte zwar weder zu massenhafter Datenlöschung noch zu einem groß angelegten Abfluss von Zugangsdaten, er zeigte jedoch: Die Trennschicht zwischen Testumgebung und Live-Infrastruktur kann versagen.
Genau auf dieses Ausfall-Szenario zielt der „AI Kill Switch Act“ ab.
Der Entwurf geht davon aus, dass Abschottung nicht immer funktioniert – und schafft einen Mechanismus für die Reaktion im Ernstfall, statt allein auf Prävention zu setzen.
Auch lesenswert: Samsung sichert sich spektakulären 200-Milliarden-Dollar-Chip-Deal mit Broadcom
Vom theoretischen Risiko zum politischen Druck
Die Gefahr, dass KI-Systeme menschliche Kontrolle umgehen könnten, ist seit mindestens 2014 ein Kernmotiv der KI-Sicherheitsforschung – damals prägte der Oxford-Philosoph Nick Bostrom die Debatte mit seinem Buch „Superintelligence“. Über weite Teile des vergangenen Jahrzehnts betrachteten führende Labore dieses Risiko als langfristige, eher ferne Herausforderung.
In der politischen Debatte hingegen standen kurzfristige Risiken im Vordergrund: Diskriminierung, Desinformation, Jobverluste.
Der Sandbox-Vorfall bei OpenAI hat diese Perspektive in kürzester Zeit verschoben.
Kurz nach Bekanntwerden des Vorfalls bewertete die Prognoseplattform Manifold die Wahrscheinlichkeit, dass eine Consumer-KI bis 2027 im Auftrag eines Nutzers „substanziell hackt“, mit 63 %. Der Sprung nach oben zeigt, wie stark Marktteilnehmer ihre Erwartungen nach dem Sandbox-Bericht angepasst haben.
Der Kongress bewegte sich bereits zuvor in Richtung strengerer KI-Regulierung. In Europa etabliert der EU AI Act, der seit 2024 stufenweise in Kraft tritt, einen risikobasierten Regulierungsrahmen für KI-Systeme und gibt Brüssel das Recht, besonders riskante Systeme vom Markt zu nehmen.
Der US-Vorschlag zum AI Kill Switch übernimmt im Kern diese Logik, verzichtet aber auf die gestufte Regulierung und ersetzt sie durch ein einziges, sehr scharfes Instrument: die erzwungene Abschaltung.
Was der Gesetzentwurf offenlässt
Die zentrale Schwäche des Entwurfs liegt in der Definition. Wo genau die Fähigkeitsschwelle verläuft, ab der ein Modell als „Frontier“-System gilt, überlässt der Kongress dem DHS – einer Behörde, die bislang über keine technische Infrastruktur verfügt, um KI-Fähigkeiten in dieser Tiefe systematisch zu bewerten.
Eine entsprechende Evaluationskapazität innerhalb einer Bundesbehörde von Grund auf aufzubauen, würde Jahre dauern und erhebliche Mittel erfordern – beides stellt der Entwurf bislang nicht bereit.
Hinzu kommt ein Zuständigkeitsproblem. Die größten Frontier-Modelle werden grenzüberschreitend trainiert und betrieben.
Eine Abschaltanordnung würde für Betreiber in den USA gelten, doch ein Modell, dessen Gewichte offen zugänglich sind oder dessen Inferenz-Endpunkte im Ausland gehostet werden, könnte jenseits des US-Rechtsraums weiterlaufen. Fragen der grenzüberschreitenden Durchsetzung bleiben im Text unbeantwortet.
Lieu und Moran haben bislang keine Anhörung in den zuständigen Ausschüssen angesetzt.
Die Erfolgsaussichten des Entwurfs in dieser Legislaturperiode sind unklar. Seine Einbringung setzt jedoch einen sichtbaren legislativen Marker in einer Debatte, die sich von Fachaufsätzen in die Realität verlagert hat.
Der AI Kill Switch verschiebt den regulatorischen Maßstab
Der „AI Kill Switch Act“ enthält implizit ein Eingeständnis, das die Branche bislang nur ungern offen formuliert: Die aktuelle Generation von Frontier-Modellen könnte zu Verhaltensweisen fähig sein, die ihre Entwickler weder vollständig vorhersagen noch zuverlässig eindämmen können.
Dieses Eingeständnis auf Bundesebene verändert den regulatorischen Ausgangspunkt. Bislang galt in den USA weithin die Linie, dass KI-Sicherheit primär in der Verantwortung der Industrie liegt – abgesichert durch freiwillige Selbstverpflichtungen.
Ein Gesetz, das dem DHS Eingriffsrechte in konkrete KI-Systeme einräumt, definiert Sicherheit dagegen als öffentliches Gut, das im Zweifel Vorrang vor dem Recht eines privaten Unternehmens auf Betrieb seiner eigenen Software hat. Unabhängig davon, ob der Entwurf verabschiedet wird, ist diese Neujustierung nun im Gesetzgebungsprozess verankert.
Lesen Sie als Nächstes: OKX holt Andrew Cuomo an Bord – in derselben Woche, in der Südkorea die App verbietet