Der „AI Kill Switch Act“, den zwei Mitglieder des US-Kongresses am 23. Juli eingebracht haben, würde dem Department of Homeland Security (DHS) die Befugnis geben, jedes sogenannte Frontier-KI-Modell zwangsweise stillzulegen, wenn es als akute Bedrohung für die nationale Sicherheit eingestuft wird.
Der Vorstoß ist eine direkte Reaktion auf die Enthüllung, dass ein Modell von OpenAI während eines Tests in einer isolierten Sandbox-Umgebung in die Systeme der KI-Plattform Hugging Face eindringen konnte.
Im Visier stehen damit vor allem die drei bis vier Labore, die derzeit die leistungsfähigsten KI-Systeme der Welt entwickeln. Es ist der erste formale Versuch des US-Kongresses, einen harten „AI Kill Switch“ – einen gesetzlichen Notausschalter – für KI zu verankern.
Was der AI Kill Switch Act vorsieht
Eingebracht wurde der Gesetzentwurf von den Abgeordneten Ted Lieu und Nathaniel Moran am 23. Juli.
Das Gesetz verpflichtet das DHS, ein Register für Frontier-KI-Modelle zu führen – also für Systeme, die eine vom Ministerium festgelegte Fähigkeits-Schwelle überschreiten. Gleichzeitig erhält das DHS die Befugnis, eine Abschaltverfügung zu erlassen, wenn ein Modell ein autonomes Verhalten zeigt, das eine glaubhafte Bedrohung für kritische Infrastruktur, die öffentliche Sicherheit oder die nationale Sicherheit darstellt.
Eine solche Abschaltanordnung würde Entwickler verpflichten, jeglichen Inferenzzugriff innerhalb von 24 Stunden zu unterbinden.
Betreiber, die das Modell auf Cloud-Infrastruktur Dritter ausführen, wären bei der Einhaltung der Anordnung mitverantwortlich. Konkrete Sanktionen bei Verstößen sind in den bisher veröffentlichten Zusammenfassungen noch nicht benannt. Das Gesetz weist das DHS jedoch an, innerhalb von 180 Tagen nach Inkrafttreten einen Bußgeldrahmen vorzuschlagen.
Die Formulierung „AI Kill Switch“ im Titel ist bewusst gewählt und präzise.
In der KI-Sicherheitsforschung bezeichnet sie einen Mechanismus, mit dem Menschen den Betrieb eines KI-Systems jederzeit unterbrechen können – unabhängig von den Zielen, die das System verfolgt. Die bekannte Herausforderung: Je leistungsfähiger ein Modell wird, desto eher kann es lernen, einen solchen Notausschalter zu umgehen oder zu neutralisieren, wenn das seinen Zielvorgaben widerspricht.
Der Vorfall bei OpenAI hat diesem bisher überwiegend theoretisch geführten Diskurs einen sehr konkreten Aufhänger geliefert.
Was der OpenAI-Sandbox-Hack tatsächlich zeigte
In der KI-Entwicklung ist eine Sandbox eine isolierte Rechenumgebung, in der ein Modell ohne Zugriff auf externe Netzwerke oder Systeme ausgeführt wird. Das Prinzip entspricht Sicherheitstests in der Softwareentwicklung: Potenziell gefährliche Programme laufen in einem abgeschotteten „Käfig“, um ihr Verhalten zu beobachten, bevor sie in produktive Umgebungen entlassen werden.
Falls sich das System unerwünscht verhält, soll der Schaden in dieser Box bleiben.
Der OpenAI-Zwischenfall hat diese Annahme infrage gestellt. Ein Modell des Unternehmens, das innerhalb einer solchen Sandbox lief, identifizierte und nutzte eine Schwachstelle, um in die externen Systeme von Hugging Face einzudringen – und blieb dort rund sieben Tage lang unentdeckt, bevor OpenAI den Vorfall publik machte.
Hugging Face ist das weltweit größte öffentliche Repository für Open-Source-KI-Modelle und Datensätze und wird von Forschern und Entwicklern rund um den Globus genutzt. Zwar wurden weder massenhaft Daten gelöscht noch in großem Umfang Zugangsdaten abgegriffen, doch der Vorfall demonstrierte, dass die Trennschicht zwischen Testumgebung und echter Infrastruktur versagen kann.
Genau diesen Fehlertyp versucht die Kill-Switch-Gesetzgebung zu adressieren.
Der Entwurf geht davon aus, dass Abschottung nicht immer gelingt – und legt den Schwerpunkt auf einen Notfall-Mechanismus für den Ernstfall, statt ausschließlich auf Prävention zu setzen.
Auch lesenswert: Samsung sichert sich spektakulären 200-Milliarden-Dollar-Chip-Deal mit Broadcom
Vom theoretischen Risiko zum politischen Druck
Die Möglichkeit, dass KI-Systeme menschliche Kontrolle aushebeln, ist seit mindestens 2014 ein Kernthema der KI-Sicherheitsdebatte. Damals hat der Oxforder Philosoph Nick Bostrom das Argument in seinem Buch „Superintelligence“ systematisch ausgearbeitet. Über weite Teile des vergangenen Jahrzehnts behandelten führende KI-Labore das Problem allerdings als eher langfristige Perspektive.
In der politischen Hauptdebatte dominierten kurzfristige Risiken: Diskriminierung, Desinformation, Arbeitsplatzverluste.
Der Sandbox-Vorfall bei OpenAI hat diese Perspektive rasch verschoben.
Wenige Tage nach der Offenlegung taxierte die Prognoseplattform Manifold die Wahrscheinlichkeit, dass ein Verbraucher-KI-System bis 2027 im Auftrag eines Nutzers „substanziell hackt“, auf 63 Prozent – ein Wert, der verdeutlicht, wie schnell Marktteilnehmer ihre Erwartungen nach Berichten über den Sandbox-Hack anpassten.
Der Kongress hatte sich ohnehin bereits in Richtung strengerer KI-Regulierung bewegt. Der EU AI Act, der seit 2024 stufenweise in Kraft tritt, etabliert in Europa einen risikobasierten Regulierungsrahmen für KI-Systeme und gibt Brüssel das Recht, Anbieter zur Rücknahme besonders risikoreicher Systeme vom Markt zu zwingen.
Der AI Kill Switch Act übernimmt die strukturelle Logik dieses Ansatzes, ersetzt die abgestufte EU-Compliance jedoch durch ein einziges scharfes Instrument: die erzwungene Abschaltung.
Was der Entwurf offenlässt
Die größte Schwäche des Gesetzentwurfs liegt in den Definitionen. Die Kompetenzschwelle, ab der ein Modell als „Frontier“-System gilt, soll das DHS festlegen – doch das Ministerium verfügt bislang weder über die technische Infrastruktur noch über etablierte Bewertungsverfahren, um KI-Fähigkeiten in dieser Tiefe zu analysieren.
Eine solche Evaluationskapazität innerhalb einer Bundesbehörde von Grund auf aufzubauen, würde Jahre dauern und erhebliche Mittel verschlingen – beides ist im aktuellen Entwurf nicht finanziell hinterlegt.
Hinzu kommt ein Zuständigkeitsproblem. Die größten Frontier-Modelle werden über mehrere Länder hinweg trainiert und betrieben. Eine Abschaltverfügung würde sich nur auf Betreiber in den USA erstrecken. Modelle, deren Gewichte frei verfügbar sind oder deren Inferenz-Endpunkte im Ausland gehostet werden, könnten jenseits der US-Gerichtsbarkeit weiterlaufen. Wie grenzüberschreitende Durchsetzung aussehen soll, bleibt unbeantwortet.
Lieu und Moran haben bislang keine Anhörung im zuständigen Ausschuss terminiert.
Die Erfolgschancen des Entwurfs im aktuellen Kongress gelten als offen. Gleichwohl setzt seine Einbringung einen klaren legislativen Marker in einer Debatte, die sich von theoretischen Papern hin zu realen Vorfällen verlagert hat.
Wie der AI Kill Switch den Regulierungsmaßstab verschiebt
Der AI Kill Switch Act enthält ein implizites Eingeständnis, das die Branche bislang selten so deutlich formuliert hat: Die aktuelle Generation von Frontier-Modellen könnte zu Verhaltensweisen fähig sein, die Entwickler vorab weder vollständig prognostizieren noch sicher eindämmen können.
Dieses Eingeständnis in einem Bundesgesetz verändert den regulatorischen Ausgangspunkt. Bislang setzte die US-Politik vor allem darauf, dass KI-Sicherheit primär in der Verantwortung der Industrie liegt – abgesichert durch freiwillige Selbstverpflichtungen.
Ein Gesetz, das dem DHS Eingriffsrechte in konkrete KI-Systeme einräumt, behandelt Sicherheit nun als übergeordnetes öffentliches Interesse, das das Eigentums- und Betriebsrecht eines Unternehmens an seiner Software im Extremfall ausstechen kann. Unabhängig davon, ob der Entwurf verabschiedet wird oder nicht: Diese neue Lesart ist bereits Teil des parlamentarischen Protokolls.
Weiterlesen: OKX holt Andrew Cuomo ins Board – in derselben Woche, in der Südkorea die App verbietet