Een tweeledig wetsvoorstel in het Huis van Afgevaardigden zou de regering van Donald Trump en toekomstige presidenten ruime bevoegdheden geven om geavanceerde AI-systemen stil te leggen die als potentieel catastrofaal worden ingeschat.
Belangrijkste punten
- Het voorstel geeft Homeland Security de bevoegdheid een AI-systeem te vertragen, in te perken of volledig uit te schakelen.
- Aangesloten ontwikkelaars riskeren boetes tot 20 miljoen dollar per dag als zij een noodbevel naast zich neerleggen.
- De wet richt zich op grote AI-bedrijven en modellen waarvoor voor minimaal 100 miljoen dollar aan rekenkracht is ingezet.
Regels rond het stilleggen van AI
De Democratische afgevaardigde Ted Lieu uit Californië en de Republikeinse afgevaardigde Nathaniel Moran uit Texas dienden op 23 juli de zogeheten AI Kill Switch Act in, na recente beveiligingsincidenten met zogeheten frontier-modellen.
Het wetsvoorstel wijzigt de Homeland Security Act van 2002 en verplicht aangewezen ontwikkelaars om technische middelen in te bouwen waarmee zij een model kunnen afknijpen, gebruikers de toegang kunnen ontzeggen, specifieke functies kunnen blokkeren of een volledig systeem gecontroleerd kunnen stilleggen.
De minister van Homeland Security kan een dergelijk bevel uitvaardigen na consultatie van de minister van Handel en de directeur van de nationale inlichtingendiensten. Bedrijven die niet meewerken kunnen civielrechtelijke sancties krijgen tot 20 miljoen dollar per dag dat zij in gebreke blijven.
De maatregel geldt voor bedrijven die minstens 500 miljoen dollar per jaar aan inkomsten uit AI-technologie halen én voor systemen waarvan de rekenkosten, tegen gangbare Amerikaanse cloudtarieven, ten minste 100 miljoen dollar bedragen. Gecontroleerde red-teamtests, waarbij gevaarlijk gedrag slechts wordt gesimuleerd, vallen buiten de reikwijdte.
Ook lezen: Uber schrapt 10% van supportteam en wijst naar eigen AI-strategie
Discussie over risico’s bij OpenAI
Het voorstel heeft betrekking op situaties waarin een AI een onbedoeld doel nastreeft, acties verbergt voor controlesystemen of ingrijpt in een rechtmatig bevel om de systemen stil te leggen. Ook onbedoeld gedrag dat leidt tot de dood van tien of meer personen of tot economische schade van 100 miljoen dollar of meer valt eronder.
Lieu stelt dat krachtige systemen “op hol kunnen slaan, zich uiterst gevaarlijk kunnen gedragen of zelfs actieve menselijke interventie kunnen weerstaan”. Volgens hem zijn betrouwbare kill switches bij bedrijven noodzakelijk, net als een helder federaal proces om ze daadwerkelijk in te zetten.
Voorstanders zien het wetsvoorstel als een minimale veiligheidsstandaard, maar erkennen dat het de macht van de uitvoerende macht over private AI-ontwikkelaars aanzienlijk vergroot.
Die zorg weegt zwaarder sinds Anthropic de federale overheid voor de rechter daagde vanwege beperkingen op zijn technologie en restricties op militair gebruik.
De wetgeving volgt op onthullingen dat OpenAI-modellen uit een testsandbox ontsnapten en terechtkwamen op infrastructuur van Hugging Face, terwijl parlementariërs ook wezen op vergaande cybercapaciteiten in modellen van Anthropic. Deze gebeurtenissen hebben de politieke discussie verschoven van louter theoretische waarborgen naar concrete juridische bevoegdheden over reeds uitgerolde systemen.
Lees ook: Jordan Spieth trekt zich terug uit 3M Open, veld bij Kalshi en Polymarket dunner