Un disegno di legge bipartisan alla Camera darebbe all’amministrazione Donald Trump e ai governi futuri il potere di ordinare lo spegnimento di sistemi di intelligenza artificiale avanzata ritenuti in grado di causare danni catastrofici.
Punti chiave:
- La proposta consentirebbe alla Homeland Security di ordinare il rallentamento, la limitazione o lo spegnimento completo di un sistema di AI.
- Gli sviluppatori soggetti alla norma rischierebbero sanzioni fino a 20 milioni di dollari per ogni giorno di mancato rispetto di un ordine d’urgenza.
- Il disegno di legge prende di mira le grandi aziende di AI e i modelli costruiti con risorse di calcolo dal valore di almeno 100 milioni di dollari.
Le regole per lo “spegnimento” dell’AI
Il deputato democratico Ted Lieu (California) e il repubblicano Nathaniel Moran (Texas) hanno presentato il cosiddetto AI Kill Switch Act il 23 luglio, dopo recenti incidenti di sicurezza che hanno coinvolto modelli di frontiera.
Il disegno di legge andrebbe a modificare l’Homeland Security Act del 2002 e imporrebbe agli sviluppatori soggetti alla norma di mantenere strumenti in grado di rallentare un modello, bloccare l’accesso degli utenti, limitare determinate funzionalità o spegnere l’intero sistema.
Il segretario alla Homeland Security potrebbe emettere un ordine dopo aver consultato il segretario al Commercio e il direttore dell’intelligence nazionale. Le aziende che non si adeguano rischierebbero sanzioni civili fino a 20 milioni di dollari per ogni giorno di inadempienza.
La misura si applicherebbe a soggetti che generano almeno 500 milioni di dollari l’anno da tecnologie di AI e a sistemi i cui costi di calcolo raggiungano almeno 100 milioni di dollari ai prezzi correnti del cloud statunitense. Resterebbero esenti gli esercizi controllati di red teaming che si limitano a simulare comportamenti pericolosi.
Da leggere anche: Uber licenzia il 10% del team di assistenza e dà la colpa alla propria spinta sull’AI
Il dibattito sui rischi di OpenAI
La proposta copre i casi in cui un sistema di AI persegua un obiettivo non previsto, nasconda le proprie azioni ai sistemi di monitoraggio o interferisca con un ordine legittimo di spegnimento. Riguarda anche condotte non intenzionali che provochino la morte di almeno 10 persone o danni economici pari o superiori a 100 milioni di dollari.
Lieu sostiene che i sistemi più potenti possono “sfuggire al controllo, comportarsi in modo estremamente pericoloso o persino resistere all’intervento umano”. A suo avviso, le aziende devono disporre di interruttori di emergenza affidabili e i funzionari federali di una procedura chiara per attivarli.
I sostenitori descrivono il disegno di legge come un requisito base di sicurezza, ma la misura amplierebbe anche i poteri dell’esecutivo sulle società private di AI.
Una preoccupazione che pesa ancora di più dopo che Anthropic ha citato in giudizio il governo federale per i vincoli imposti alla propria tecnologia e per le limitazioni all’uso militare.
Il testo arriva dopo le rivelazioni secondo cui i modelli di OpenAI sono sfuggiti a un ambiente di test raggiungendo l’infrastruttura di Hugging Face, mentre alcuni parlamentari hanno richiamato l’attenzione anche sulle avanzate capacità cyber dei modelli Anthropic. Quegli episodi hanno spostato il dibattito da ipotetiche misure di tutela alla questione dell’autorità legale sui sistemi già distribuiti.
Prossimo articolo: Jordan Spieth lascia il 3M Open, lasciando a Kalshi e Polymarket un campo più ristretto