Een tweeledig wetsvoorstel in het Huis van Afgevaardigden zou de regering van Donald Trump en toekomstige kabinetten ruime bevoegdheden geven om geavanceerde AI-systemen, die als potentieel catastrofaal risicovol worden beoordeeld, per bevel stil te leggen.
Belangrijkste punten:
- Het voorstel stelt het ministerie van Homeland Security in staat een AI-systeem te vertragen, te beperken of volledig uit te schakelen.
- Ontwikkelaars die onder de wet vallen riskeren boetes tot 20 miljoen dollar per dag als zij een noodbevel naast zich neerleggen.
- De wet richt zich op grote AI-bedrijven en modellen die zijn gebouwd met rekenkracht ter waarde van 100 miljoen dollar of meer.
Regels rond het stilleggen van AI
De Democratische afgevaardigde Ted Lieu uit Californië en de Republikeinse afgevaardigde Nathaniel Moran uit Texas dienden op 23 juli de zogenoemde AI Kill Switch Act in, kort na recente beveiligingsincidenten met frontier-modellen.
Het wetsvoorstel wijzigt de Homeland Security Act van 2002 en verplicht aangewezen ontwikkelaars om technische middelen te onderhouden waarmee zij een model kunnen afknijpen, gebruikers toegang kunnen ontzeggen, specifieke functionaliteiten kunnen blokkeren of een volledig systeem gecontroleerd kunnen uitschakelen.
De minister van Homeland Security kan een bevel uitvaardigen na consultatie van de minister van Handel en de directeur van de nationale inlichtingendiensten. Bedrijven die niet meewerken, kunnen civielrechtelijke sancties krijgen tot 20 miljoen dollar voor elke dag dat zij in gebreke blijven.
De maatregel geldt voor partijen die jaarlijks minstens 500 miljoen dollar verdienen aan AI-technologie én voor systemen waarvan de rekenkosten bij gangbare Amerikaanse cloudtarieven ten minste 100 miljoen dollar bedragen. Gecontroleerde red-teamtests die alleen gevaarlijk gedrag simuleren, worden expliciet uitgezonderd.
Ook interessant: Uber schrapt 10% van supportteam en wijst naar eigen AI-strategie
Discussie over risico's rond OpenAI
Het voorstel is van toepassing in situaties waarin een AI een niet-beoogd doel nastreeft, handelingen verbergt voor monitorsystemen of ingrijpt in een rechtmatig afschakelcommando. Ook valt er onbedoeld gedrag onder dat ten minste tien dodelijke slachtoffers veroorzaakt of een economische schade van 100 miljoen dollar of meer tot gevolg heeft.
Lieu waarschuwde dat krachtige systemen “op hol kunnen slaan, zich extreem gevaarlijk kunnen gedragen of zelfs tegen menselijke interventie in kunnen gaan”. Volgens hem moeten bedrijven over robuuste kill switches beschikken en hebben federale autoriteiten een helder proces nodig om die in te zetten.
Voorstanders bestempelen het wetsvoorstel als een basisveiligheidseis, maar erkennen dat het de uitvoerende macht meer grip geeft op private AI-bedrijven.
Die zorg weegt zwaarder sinds Anthropic de federale overheid heeft aangeklaagd wegens restricties op zijn technologie en de beperkingen die zijn opgelegd aan militair gebruik.
De wetgeving volgt op onthullingen dat OpenAI-modellen uit een testsandbox ontsnapten en tot in de infrastructuur van Hugging Face wisten door te dringen, terwijl parlementariërs ook wezen op geavanceerde cybercapaciteiten in modellen van Anthropic. Die incidenten hebben het debat verschoven van louter hypothetische waarborgen naar de vraag welke juridische bevoegdheid de overheid moet hebben over al uitgerolde systemen.