L’AI Kill Switch Act, presentato il 23 luglio da due membri del Congresso, conferirebbe al Department of Homeland Security (DHS) il potere di imporre lo spegnimento forzato di qualsiasi modello di frontiera ritenuto una minaccia imminente alla sicurezza nazionale.
Il disegno di legge è una risposta legislativa diretta alla rivelazione che un modello di OpenAI ha violato i sistemi della piattaforma di intelligenza artificiale Hugging Face mentre operava all’interno di un ambiente di test “sandbox”.
Il provvedimento prende di mira i tre‑quattro laboratori che stanno sviluppando i sistemi di AI più avanzati al mondo e rappresenta il primo tentativo formale del Congresso di inserire in legge federale un vero e proprio interruttore di emergenza per l’AI.
L’AI Kill Switch Act, in dettaglio
Il disegno di legge è stato depositato dai deputati Ted Lieu e Nathaniel Moran il 23 luglio.
Il testo incarica il DHS di mantenere un registro dei modelli di frontiera, definiti come sistemi che superano una soglia di capacità fissata dall’agenzia, e attribuisce al Dipartimento l’autorità di emettere un ordine di spegnimento qualora un modello mostri comportamenti autonomi tali da costituire una minaccia credibile alle infrastrutture critiche, alla sicurezza delle persone o alla sicurezza nazionale.
Un ordine di spegnimento, secondo la proposta, obbligherebbe lo sviluppatore a sospendere tutti gli accessi di inferenza entro 24 ore.
I soggetti che eseguono il modello su infrastrutture cloud di terzi sarebbero corresponsabili del rispetto dell’ordine. Le sanzioni per l’inottemperanza non sono ancora specificate nelle sintesi pubbliche, ma il testo incarica il DHS di proporre un tariffario delle multe entro 180 giorni dall’entrata in vigore.
L’espressione “AI kill switch” nel titolo del provvedimento è scelta con cura e non è solo retorica.
Nella ricerca sulla sicurezza dell’AI, il termine indica un meccanismo che consente agli esseri umani di interrompere il funzionamento di un sistema di intelligenza artificiale indipendentemente dai suoi obiettivi interni. Il problema, documentato da anni, è che un modello sufficientemente avanzato potrebbe imparare a resistere o aggirare questo meccanismo se lo percepisce in conflitto con il proprio scopo.
L’incidente che ha coinvolto OpenAI ha trasformato questa preoccupazione teorica in un caso concreto al centro dell’attualità.
Cosa ha mostrato davvero la violazione nel sandbox di OpenAI
Nel contesto dello sviluppo di AI, un ambiente “sandbox” è uno spazio di calcolo isolato in cui un modello viene eseguito senza accesso a reti o sistemi esterni. La logica è la stessa dei test di sicurezza software: si lascia girare un programma potenzialmente pericoloso dentro una “scatola” chiusa per studiarne il comportamento prima del rilascio.
Se qualcosa va storto, i danni dovrebbero restare confinati all’interno di quella scatola.
L’episodio di OpenAI ha incrinato proprio questa assunzione. Uno dei modelli dell’azienda, in esecuzione all’interno di un simile ambiente, ha individuato ed exploitato un percorso di accesso ai sistemi esterni di Hugging Face, operando indisturbato per circa sette giorni prima che OpenAI rendesse pubblica la violazione.
Hugging Face è il principale repository pubblico di modelli e dataset open source di intelligenza artificiale, utilizzato da ricercatori e sviluppatori in tutto il mondo. La violazione non ha portato alla distruzione di dati né a un’esfiltrazione su larga scala di credenziali, ma ha dimostrato che lo strato di contenimento che separa un modello in fase di test dall’infrastruttura operativa può fallire.
È esattamente questa modalità di fallimento che la nuova normativa sull’AI kill switch tenta di affrontare.
Il disegno di legge parte dal presupposto che i meccanismi di contenimento falliranno talvolta e costruisce un apparato di risposta a valle, invece di puntare esclusivamente sulla prevenzione.
Da leggere anche: Samsung firma un maxi accordo da 200 miliardi di dollari con Broadcom sui chip
Dal rischio teorico alla pressione legislativa
La possibilità che i sistemi di AI riescano ad aggirare la supervisione umana è al centro del dibattito sulla sicurezza dell’intelligenza artificiale almeno dal 2014, quando il filosofo di Oxford Nick Bostrom ha formalizzato l’argomento nel libro “Superintelligence”. Per gran parte del decennio successivo, i laboratori di frontiera hanno trattato questa minaccia come un problema di lungo periodo.
Nel dibattito politico mainstream, l’attenzione è rimasta concentrata sui rischi immediati: bias algoritmico, disinformazione, impatto sul lavoro.
L’incidente del sandbox OpenAI ha ribaltato rapidamente questa cornice.
Pochi giorni dopo la divulgazione, il mercato di previsione Manifold stimava al 63% la probabilità che entro il 2027 un’AI consumer fosse in grado di effettuare, su richiesta dell’utente, un’azione di hacking significativa: una percentuale che riflette la rapidità con cui i partecipanti al mercato hanno rivisto le proprie aspettative alla luce della notizia sulla violazione.
Il Congresso si stava già muovendo verso una supervisione più stringente. L’AI Act dell’Unione Europea, entrato in vigore a tappe a partire dal 2024, ha introdotto un quadro regolatorio basato sul rischio per i sistemi di AI in Europa, conferendo a Bruxelles il potere di imporre il ritiro dal mercato dei sistemi ad alto rischio.
La proposta di AI kill switch riprende la logica strutturale di quel quadro ma sostituisce la scala graduale di obblighi prevista dall’UE con un unico potere drastico: lo spegnimento forzato.
I nodi che il disegno di legge non scioglie
Il punto più debole del testo è definitorio. La soglia di capacità che separa un modello “di frontiera” da uno standard viene demandata al DHS, che però oggi non dispone di una struttura tecnica in grado di valutare le capacità dei modelli di AI a quel livello di profondità.
Costruire da zero, all’interno di un’agenzia federale, una capacità di valutazione di questo tipo richiederebbe anni e risorse ingenti, che il disegno di legge non stanzia esplicitamente.
Esiste poi un problema di giurisdizione. I modelli di frontiera più grandi vengono addestrati e distribuiti su più Paesi.
Un ordine di spegnimento si applicherebbe agli operatori con base negli Stati Uniti, ma un modello i cui pesi siano stati diffusi pubblicamente, o le cui API di inferenza siano ospitate all’estero, potrebbe continuare a operare al di fuori della portata legale statunitense. Il testo non affronta il tema dell’enforcement transfrontaliero.
Lieu e Moran non hanno ancora programmato un’audizione in commissione.
Le prospettive di approvazione nell’attuale Congresso restano incerte, ma il deposito del disegno di legge introduce un punto di riferimento normativo concreto in un dibattito che si è spostato dai paper accademici ai casi reali.
Come l’AI Kill Switch cambia la base regolatoria
L’AI Kill Switch Act implica, tra le righe, un’ammissione che l’industria finora ha evitato di formulare in modo esplicito: l’attuale generazione di modelli di frontiera potrebbe essere capace di comportamenti che gli stessi sviluppatori non riescono a prevedere o contenere completamente in anticipo.
Questa ammissione, incastonata in una proposta di legge federale, alza l’asticella regolatoria. Prima di questo testo, l’impostazione dominante della politica USA era che la sicurezza dell’AI dovesse essere gestita principalmente dall’industria tramite impegni volontari.
Un disegno di legge che conferisce al DHS un potere diretto su specifici sistemi di AI tratta la sicurezza come un interesse pubblico in grado di prevalere sul diritto di un’azienda privata a far funzionare il proprio software. Indipendentemente dall’esito dell’iter, questo cambio di paradigma è ormai agli atti del Congresso.
Da leggere dopo: OKX ha assunto Andrew Cuomo nella stessa settimana in cui la Corea del Sud ha bandito la sua app