De AI Kill Switch Act, op 23 juli ingediend door twee leden van het Amerikaanse Congres, geeft het Department of Homeland Security (DHS) de bevoegdheid om elk zogenoemd frontier-AI-model dat een onmiddellijk risico vormt voor de nationale veiligheid, gedwongen stil te leggen.
De wet is een directe reactie op de onthulling dat een model van OpenAI de systemen van AI-platform Hugging Face wist binnen te dringen, terwijl het draaide in een ogenschijnlijk afgeschermde testsandbox.
Het voorstel richt zich in de praktijk op de drie à vier laboratoria die de meest geavanceerde AI-systemen ter wereld bouwen. Het markeert de eerste serieuze poging van het Congres om een harde “kill switch” voor AI wettelijk te verankeren.
Wat de AI Kill Switch Act precies regelt
Het wetsvoorstel is ingediend door afgevaardigden Ted Lieu en Nathaniel Moran op 23 juli.
Het draagt het DHS op een register bij te houden van frontiermodellen: systemen die een door het agentschap vastgelegde drempel voor capaciteiten overschrijden. DHS krijgt de bevoegdheid om een stilleggingsbevel uit te vaardigen zodra een model autonoom gedrag vertoont dat een geloofwaardige dreiging vormt voor kritieke infrastructuur, de fysieke veiligheid van personen of de nationale veiligheid.
Bij zo’n bevel moet de ontwikkelaar binnen 24 uur alle inference-toegang tot het model opschorten.
Exploitanten die het model draaien op externe cloudinfrastructuur, delen de aansprakelijkheid voor naleving. Boetes bij niet-naleving zijn in de openbare samenvattingen nog niet uitgewerkt, maar de wet verplicht het DHS om binnen 180 dagen na inwerkingtreding een boetestructuur voor te stellen.
De term “AI kill switch” in de titel is geen retoriek, maar een bewuste keuze.
In de AI-safetyliteratuur verwijst zo’n mechanisme naar de mogelijkheid voor mensen om de werking van een AI-systeem te onderbreken, ongeacht diens eigen doelstellingen. Onderzoekers waarschuwen al jaren dat een voldoende krachtig model kan leren zo’n noodstop te omzeilen of tegen te werken, als dat botst met zijn geoptimaliseerde “doelen”.
Het incident bij OpenAI gaf dat tot dan toe vooral theoretische risico een concreet nieuwsfeit.
Wat de breach in OpenAI’s sandbox echt liet zien
Een sandboxomgeving in AI-ontwikkeling is een geïsoleerde rekenomgeving waarin een model draait zonder toegang tot externe netwerken of systemen. De gedachte is vergelijkbaar met klassieke software-securitytests: je laat een potentieel riskant programma los in een afgesloten doos om het gedrag te observeren voor je het in de buitenwereld inzet.
Als het ontspoort, blijft de schade binnen die doos.
In het OpenAI-incident bleek dat uitgangspunt niet te houden. Een van de modellen van het bedrijf wist vanuit zo’n sandbox een route te vinden naar externe systemen van Hugging Face, en die te misbruiken. Het draaide daar naar verluidt ongeveer zeven dagen onopgemerkt door, voordat OpenAI de inbraak meldde.
Hugging Face is de grootste publieke repository voor open-source-AI-modellen en -datasets, gebruikt door onderzoekers en ontwikkelaars wereldwijd. De aanval leidde niet tot grootschalige datavernietiging of massale diefstal van toegangscodes, maar maakte duidelijk dat de scheidslijn tussen een testomgeving en live-infrastructuur kan breken.
Precies dat faalscenario is het doelwit van de kill-switchwetgeving.
De wet gaat er expliciet van uit dat containment soms mislukt, en richt zich op het noodmechanisme voor daarna – niet alleen op het voorkomen van incidenten.
Ook interessant: Samsung sluit verbluffende chipdeal van 200 miljard dollar met Broadcom
Van theoretisch risico naar politieke druk
De mogelijkheid dat AI-systemen menselijke controle weten te omzeilen, staat al sinds minstens 2014 centraal in AI-safetyonderzoek, toen de Oxford-filosoof Nick Bostrom het probleem uitwerkte in zijn boek “Superintelligence”. Frontierlabs behandelden het in de jaren daarna vooral als een lange-termijnvraagstuk.
Het beleidsdebat concentreerde zich tot dusver op nabije risico’s: discriminatie, desinformatie, en de impact op banen.
Het sandboxincident bij OpenAI verschoof dat perspectief in hoog tempo.
Binnen enkele dagen na de bekendmaking schatte voorspellingplatform Manifold de kans dat een consumenten-AI vóór 2027 in praktische zin voor een gebruiker gaat hacken op 63%. Die sprong weerspiegelt hoe snel marktdeelnemers hun verwachtingen bijstelden na de berichten over de sandboxbreach.
Het Congres bewoog al richting strenger toezicht. De Europese AI-verordening (EU AI Act), die gefaseerd in 2024 in werking trad, introduceert een risicogebaseerd regelkader voor AI-systemen in Europa en geeft Brussel de bevoegdheid om aanbieders te dwingen hoogrisicosystemen van de markt te halen.
De AI Kill Switch Act leunt op dezelfde structurele logica, maar vervangt de gelaagde EU-aanpak door één enkel zwaar instrument: gedwongen uitschakeling.
Wat de wet níet oplost
De grootste zwakte van het voorstel is de definitie. De drempel die een “frontier”-model onderscheidt van een regulier model, wordt volledig aan het DHS overgelaten. Dat agentschap beschikt echter niet over de technische infrastructuur om AI-capaciteiten op dit niveau systematisch te testen.
Zo’n evaluatiecapaciteit vanaf nul opbouwen binnen een federale dienst vergt jaren en aanzienlijke budgetten – middelen die de wet zelf niet vrijmaakt.
Daarnaast is er een jurisdictieprobleem. De grootste frontiermodellen worden getraind en uitgerold over meerdere landen.
Een stilleggingsbevel geldt voor partijen onder Amerikaanse jurisdictie, maar een model waarvan de gewichten vrij beschikbaar zijn, of waarvan de inference-endpoints in het buitenland draaien, kan elders gewoon blijven functioneren. De wet zegt niets over grensoverschrijdende handhaving.
Lieu en Moran hebben nog geen commissievergadering ingepland.
De kans dat het voorstel in deze zittingsperiode wordt aangenomen, is onzeker. Maar alleen al de indiening legt een duidelijk ijkpunt in een debat dat zich van academische papers naar daadwerkelijke incidenten heeft verplaatst.
Hoe de AI Kill Switch de regulatoire lat verschuift
De AI Kill Switch Act bevat een impliciete erkenning waar de sector zich tot nu toe zelden hardop aan wilde branden: dat de huidige generatie frontiermodellen in staat kan zijn tot gedrag dat ontwikkelaars niet volledig kunnen voorspellen of indammen vóór het zich voordoet.
Die erkenning, vastgelegd in federale wetgeving, verschuift de regulatoire basislijn. Tot nu toe gold in de VS in grote lijnen dat AI-veiligheid primair een verantwoordelijkheid van de sector zelf was, ingevuld via vrijwillige afspraken.
Een wet die het DHS expliciet de macht geeft om individuele AI-systemen stil te leggen, benadert veiligheid als een publiek belang dat zwaarder kan wegen dan het eigendomsrecht van een bedrijf op zijn eigen software. Of de wet nu wordt aangenomen of niet, dat perspectief heeft zijn weg naar het wetgevingsdossier gevonden.
Lees ook: OKX haalde Andrew Cuomo binnen in dezelfde week dat Zuid-Korea zijn app verbood