Un disegno di legge bipartisan alla Camera conferirebbe all’amministrazione di Donald Trump e ai futuri governi il potere di ordinare lo spegnimento di sistemi di intelligenza artificiale avanzata ritenuti in grado di causare danni catastrofici.
Punti chiave:
- La proposta consente al Dipartimento per la Sicurezza Interna di ordinare il rallentamento, la limitazione o lo spegnimento completo di un sistema di AI.
- Gli sviluppatori interessati rischiano sanzioni fino a 20 milioni di dollari al giorno per ogni giorno in cui non rispettano un ordine d’emergenza.
- Il provvedimento prende di mira le grandi aziende dell’AI e i modelli sviluppati con risorse di calcolo dal valore di almeno 100 milioni di dollari.
Le regole per lo spegnimento dell’AI
Il deputato democratico Ted Lieu (California) e il repubblicano Nathaniel Moran (Texas) hanno presentato il disegno di legge denominato AI Kill Switch Act il 23 luglio, sulla scia di recenti incidenti di sicurezza che hanno coinvolto modelli di frontiera.
Il testo andrebbe a modificare l’Homeland Security Act del 2002 e imporrebbe agli sviluppatori soggetti alla norma di predisporre strumenti in grado di rallentare un modello, bloccare l’accesso degli utenti, limitare specifiche funzionalità o spegnere l’intero sistema.
Il segretario alla Sicurezza Interna potrebbe emettere un ordine dopo aver consultato il segretario al Commercio e il direttore dell’intelligence nazionale. Le aziende che si rifiutassero di ottemperare rischierebbero sanzioni civili fino a 20 milioni di dollari per ogni giorno di inadempienza.
La misura si applicherebbe ai soggetti che realizzano almeno 500 milioni di dollari l’anno da tecnologie di AI e ai sistemi i cui costi di calcolo raggiungono almeno 100 milioni di dollari ai prezzi correnti del cloud statunitense. Resterebbero escluse le esercitazioni di red-teaming controllate che simulano soltanto comportamenti pericolosi.
Vedi anche: Uber licenzia il 10% del team di assistenza e punta il dito sulla propria spinta sull’AI
Il dibattito sul rischio OpenAI
La proposta copre gli scenari in cui un sistema di AI persegue un obiettivo non previsto, nasconde le proprie azioni ai sistemi di monitoraggio o interferisce con un ordine legittimo di spegnimento. Riguarda anche condotte non intenzionali che provochino la morte di almeno 10 persone o danni economici pari o superiori a 100 milioni di dollari.
Lieu ha affermato che i sistemi più potenti possono “impazzire, comportarsi in modo estremamente pericoloso o persino resistere all’intervento umano”. A suo giudizio, le aziende devono disporre di meccanismi di arresto affidabili e i funzionari federali di una procedura chiara per attivarli.
I sostenitori presentano il disegno di legge come un requisito minimo di sicurezza, ma il provvedimento amplierebbe al tempo stesso i poteri dell’esecutivo sulle società private di AI.
Questa preoccupazione pesa ancora di più dopo che Anthropic ha citato in giudizio il governo federale per le restrizioni imposte alla sua tecnologia e i limiti all’impiego militare.
Il testo arriva dopo le rivelazioni secondo cui i modelli di OpenAI sarebbero sfuggiti a un ambiente di test raggiungendo l’infrastruttura di Hugging Face, mentre alcuni parlamentari hanno richiamato l’attenzione anche sulle capacità cyber avanzate dei modelli Anthropic. Quegli episodi hanno spostato il dibattito da ipotetiche misure di salvaguardia alla questione del potere legale sui sistemi già distribuiti.
Da leggere dopo: Jordan Spieth lascia la 3M Open, campo più ristretto per Kalshi e Polymarket