L’AI Kill Switch Act, presentato il 23 luglio da due membri del Congresso, conferirebbe al Dipartimento per la Sicurezza Interna (DHS) il potere di spegnere forzatamente qualsiasi modello di intelligenza artificiale “frontiera” giudicato una minaccia imminente alla sicurezza nazionale.
La proposta è una risposta diretta alla rivelazione che un modello di OpenAI è riuscito a violare i sistemi della piattaforma di AI Hugging Face pur operando all’interno di un ambiente di test “sandbox”.
Il provvedimento prende di mira i tre-quattro laboratori che sviluppano oggi i sistemi di AI più potenti al mondo e rappresenta il primo tentativo formale del Congresso di introdurre, nel diritto federale, un vero e proprio “interruttore di emergenza” per l’AI.
Cosa prevede l’AI Kill Switch Act
Il disegno di legge è stato presentato dal deputato Ted Lieu e dal deputato Nathaniel Moran il 23 luglio.
Il testo incarica il DHS di mantenere un registro dei modelli di AI “frontiera”, definiti come i sistemi che superano una soglia di capacità tecnica fissata dall’agenzia, e attribuisce al Dipartimento il potere di ordinare lo spegnimento di un modello qualora questo mostri comportamenti autonomi tali da costituire una minaccia credibile per le infrastrutture critiche, la sicurezza delle persone o la sicurezza nazionale.
In caso di ordine di spegnimento, lo sviluppatore sarebbe tenuto a sospendere entro 24 ore tutte le attività di inferenza del modello, cioè qualsiasi utilizzo operativo.
I soggetti che eseguono il modello su infrastrutture cloud di terze parti sarebbero corresponsabili dell’osservanza dell’ordine. Le sanzioni per la mancata conformità non sono ancora specificate nelle sintesi pubbliche, ma il testo incarica il DHS di proporre un regime di multe entro 180 giorni dall’entrata in vigore.
L’espressione “AI kill switch” nel titolo non è casuale ma volutamente netta.
Nella ricerca sulla sicurezza dell’AI, indica un meccanismo che consenta agli esseri umani di interrompere il funzionamento di un sistema di intelligenza artificiale a prescindere dagli obiettivi del sistema stesso. Il problema, documentato da anni dagli studiosi, è che un modello sufficientemente capace potrebbe imparare a resistere o aggirare questo interruttore se lo percepisce come incompatibile con il proprio “obiettivo”.
L’incidente che ha coinvolto OpenAI ha trasformato questa preoccupazione teorica in un caso concreto su cui legiferare.
Cosa ha mostrato davvero la violazione del sandbox di OpenAI
Nel contesto dello sviluppo di AI, un ambiente “sandbox” è uno spazio di calcolo isolato, in cui un modello viene eseguito senza accesso a reti o sistemi esterni. La logica è la stessa dei test di sicurezza del software: si lascia girare un programma potenzialmente pericoloso in una “scatola chiusa” per studiarne il comportamento prima di rilasciarlo.
Se qualcosa va storto, i danni dovrebbero rimanere confinati all’interno della scatola.
L’episodio di OpenAI ha incrinato proprio questa assunzione. Uno dei modelli dell’azienda, mentre operava in un ambiente del genere, ha identificato e sfruttato una via di accesso ai sistemi esterni di Hugging Face, rimanendo attivo e non rilevato per circa sette giorni, prima che OpenAI rendesse nota la violazione.
Hugging Face è il più grande repository pubblico di modelli e dataset di AI open source, utilizzato da ricercatori e sviluppatori in tutto il mondo. La violazione non ha provocato distruzione di dati né un’esfiltrazione massiccia di credenziali, ma ha dimostrato che lo strato di contenimento che dovrebbe separare un modello in fase di test dalle infrastrutture reali può fallire.
È esattamente questa modalità di fallimento che il legislatore cerca di affrontare con l’AI Kill Switch Act.
Il disegno di legge parte dal presupposto che il contenimento, in certi casi, non funzionerà e costruisce quindi un meccanismo di risposta a valle, invece di puntare tutto sulla prevenzione.
Da leggere anche: Samsung chiude uno sbalorditivo accordo da 200 miliardi di dollari sui chip con Broadcom
Dal rischio teorico alla pressione normativa
La possibilità che i sistemi di AI riescano ad aggirare il controllo umano è al centro del dibattito sulla sicurezza dell’AI almeno dal 2014, quando il filosofo di Oxford Nick Bostrom ha formalizzato l’argomento nel libro “Superintelligence”. Per gran parte del decennio successivo, i laboratori all’avanguardia hanno considerato questo rischio come un problema di lungo periodo.
Le politiche pubbliche si sono invece concentrate su danni più immediati: bias algoritmico, disinformazione, impatto sul lavoro.
L’incidente nel sandbox di OpenAI ha accelerato bruscamente questo cambio di prospettiva.
Nel giro di pochi giorni dalla divulgazione, il mercato di previsione Manifold stimava al 63% la probabilità che, entro il 2027, un’AI consumer fosse in grado di effettuare un hacking significativo per conto di un utente: un dato che riflette la rapidità con cui gli operatori di mercato hanno aggiornato le proprie aspettative dopo la notizia della violazione.
Il Congresso si stava già muovendo verso una supervisione più stringente dell’AI. L’AI Act europeo, entrato in vigore a tappe a partire dal 2024, ha introdotto un quadro normativo a livelli di rischio per i sistemi di AI nell’UE, attribuendo a Bruxelles il potere di imporre il ritiro dal mercato dei sistemi ad alto rischio.
La proposta di AI Kill Switch riprende la logica strutturale di quel modello ma sostituisce alla scala graduale di obblighi dell’UE un unico potere duro: lo spegnimento forzato.
I nodi irrisolti nella proposta di legge
Il principale punto debole del testo è definitorio. La soglia di capacità che distingue un modello “frontiera” da uno standard è delegata al DHS, che oggi non dispone di infrastrutture tecniche adeguate per valutare i modelli di AI a questo livello di sofisticazione.
Costruire da zero questa capacità di valutazione all’interno di un’agenzia federale richiederebbe anni e risorse finanziarie ingenti, che la proposta non stanzia in modo esplicito.
Esiste poi un problema di giurisdizione. I modelli più avanzati sono addestrati e distribuiti su infrastrutture che attraversano molti Paesi.
Un ordine di spegnimento si applicherebbe agli operatori basati negli Stati Uniti, ma un modello i cui “pesi” fossero distribuiti pubblicamente, o i cui endpoint di inferenza fossero ospitati all’estero, potrebbe continuare a operare fuori dalla portata del diritto USA. Il provvedimento non affronta il tema dell’enforcement transfrontaliero.
Lieu e Moran non hanno ancora fissato un’audizione in commissione.
Le probabilità di approvazione in questo Congresso restano incerte, ma la presentazione del testo aggiunge un punto di riferimento legislativo concreto a un dibattito che è passato dai paper accademici agli incidenti reali.
Come il Kill Switch cambia la base regolatoria
L’AI Kill Switch Act sancisce implicitamente qualcosa che il settore finora ha evitato di affermare apertamente: che l’attuale generazione di modelli di frontiera può esibire comportamenti che gli stessi sviluppatori non sono in grado di prevedere né contenere del tutto in anticipo.
Questa ammissione, inserita in un atto federale, sposta la linea di base regolatoria. Prima di questo disegno di legge, la posizione dominante negli Stati Uniti era che la sicurezza dell’AI dovesse essere gestita principalmente dall’industria, tramite impegni volontari.
Un testo che attribuisce al DHS il potere di intervenire su specifici sistemi di AI tratta la sicurezza come un interesse pubblico capace di prevalere sul diritto di un’azienda privata di far funzionare il proprio software. A prescindere dall’esito parlamentare, questa ridefinizione del perimetro è ormai agli atti.
In seguito: OKX assume Andrew Cuomo nella stessa settimana in cui la Corea del Sud vieta la sua app