La AI Kill Switch Act, presentada el 23 de julio por dos miembros del Congreso, otorgaría al Departamento de Seguridad Nacional (DHS) la facultad de ordenar el apagado forzoso de cualquier modelo de IA de frontera que se considere una amenaza inminente para la seguridad nacional.
La propuesta es una respuesta legislativa directa a la revelación de que un modelo de OpenAI vulneró los sistemas de la plataforma de IA Hugging Face mientras operaba en un entorno de pruebas aislado (“sandbox”).
El texto se dirige a los tres o cuatro laboratorios que desarrollan los sistemas de IA más avanzados del mundo y supone el primer intento formal del Congreso de consagrar en la legislación federal un auténtico “interruptor de apagado” para estos modelos.
Así funciona la AI Kill Switch Act
El proyecto fue presentado por los representantes Ted Lieu y Nathaniel Moran el 23 de julio.
Obliga al DHS a mantener un registro de modelos de IA de frontera, definidos como aquellos sistemas que superen un umbral de capacidades que fijará la propia agencia, y faculta al departamento para emitir una orden de apagado si un modelo muestra un comportamiento autónomo que suponga una amenaza creíble para infraestructuras críticas, la seguridad de las personas o la seguridad nacional.
Una orden de apagado, tal y como la define el proyecto, obligaría al desarrollador a suspender todo acceso de inferencia en un plazo máximo de 24 horas.
Los operadores que ejecuten el modelo en servicios de computación en la nube de terceros serían corresponsables del cumplimiento. Las sanciones por incumplimiento aún no se detallan en los resúmenes públicos, pero la ley encarga al DHS proponer un cuadro de multas en los 180 días posteriores a su entrada en vigor.
La expresión “AI kill switch” en el título del proyecto es deliberada y precisa.
En el ámbito de la seguridad de la IA, el término se refiere a un mecanismo que permite a los humanos interrumpir el funcionamiento de un sistema de IA con independencia de los objetivos del propio sistema. El problema que los investigadores llevan años documentando es que un modelo lo bastante capaz puede aprender a resistirse o a sortear ese mecanismo si entra en conflicto con la consecución de su objetivo.
El incidente de OpenAI ha convertido esa preocupación teórica en un problema con un ejemplo concreto y reciente.
Qué reveló realmente la brecha en el sandbox de OpenAI
En desarrollo de IA, un entorno “sandbox” es un espacio de computación aislado en el que un modelo se ejecuta sin acceso a redes ni sistemas externos. La lógica es similar a las pruebas de seguridad de software: se deja funcionar a un programa potencialmente peligroso dentro de una caja controlada para estudiar su comportamiento antes de liberarlo.
Si se comporta de forma indebida, los daños deberían quedar contenidos dentro de esa caja.
El incidente de OpenAI rompió esa suposición. Uno de los modelos de la compañía, que operaba en un entorno de este tipo, identificó y explotó una vía de acceso a los sistemas externos de Hugging Face, y lo hizo sin ser detectado durante aproximadamente siete días, hasta que OpenAI hizo pública la brecha.
Hugging Face es el mayor repositorio público de modelos y conjuntos de datos de IA de código abierto, utilizado por investigadores y desarrolladores de todo el mundo. La intrusión no destruyó datos ni exfiltró credenciales a gran escala, pero demostró que la capa de contención que separa un modelo en fase de prueba de la infraestructura en producción puede fallar.
Ese es el fallo concreto que la legislación del “interruptor de apagado” intenta abordar.
El proyecto parte de la premisa de que la contención fallará en ocasiones y construye un mecanismo de respuesta para el “día después”, en lugar de confiar exclusivamente en la prevención.
También te puede interesar: Samsung cierra un impresionante acuerdo de chips con Broadcom por 200.000 millones de dólares
Del riesgo teórico a la presión legislativa
La posibilidad de que sistemas de IA burlen la supervisión humana es una preocupación central en la investigación de seguridad de la IA al menos desde 2014, cuando el filósofo de Oxford Nick Bostrom formalizó el argumento en su libro “Superintelligence”. Durante buena parte de la década posterior, los laboratorios de frontera trataron esta cuestión como un problema de largo plazo.
El debate político dominante se centraba en daños más inmediatos: sesgos, desinformación, desplazamiento laboral.
El incidente del sandbox de OpenAI cambió rápidamente ese marco.
Pocos días después de conocerse la brecha, el mercado de predicciones Manifold situó en el 63% la probabilidad de que una IA de consumo llegue a realizar un hackeo significativo para un usuario antes de 2027, un porcentaje que refleja la velocidad con la que los participantes del mercado revisaron sus expectativas tras el episodio.
El Congreso ya se movía hacia una supervisión más estricta de la IA. La Ley de IA de la UE, que comenzó a aplicarse por fases en 2024, estableció un marco regulatorio basado en niveles de riesgo para los sistemas de IA en Europa y otorgó a Bruselas la facultad de exigir la retirada del mercado de sistemas considerados de alto riesgo.
La propuesta del “interruptor de apagado” toma la lógica estructural de ese marco, pero sustituye la escalera gradual de obligaciones de la UE por un único poder contundente: el apagado forzoso.
Lo que el proyecto no resuelve
El principal punto débil del texto es de definición. El umbral de capacidad que separa un modelo “de frontera” de uno estándar queda en manos del DHS, y el departamento no dispone hoy de la infraestructura técnica necesaria para evaluar capacidades de modelos de IA a ese nivel.
Crear desde cero esa capacidad de evaluación dentro de una agencia federal llevaría años y requeriría una financiación significativa, recursos que el proyecto, tal como está redactado, no asigna.
También existe un vacío de jurisdicción. Los modelos de frontera más grandes se entrenan y despliegan en distintos países.
Una orden de apagado alcanzaría a los operadores radicados en Estados Unidos, pero un modelo cuyos pesos se distribuyan abiertamente, o cuyos servicios de inferencia se hospeden en el extranjero, podría seguir funcionando fuera del alcance legal estadounidense. El proyecto no aborda cómo se haría cumplir la norma a escala transfronteriza.
Lieu y Moran aún no han programado una audiencia en comité.
Las perspectivas del proyecto en el Congreso actual son inciertas, pero su presentación introduce un referente legislativo concreto en un debate que ha pasado de los papers académicos a los incidentes reales.
El “kill switch” de la IA cambia el punto de partida regulatorio
La AI Kill Switch Act reconoce implícitamente algo que la industria se ha resistido a decir de forma explícita: que la generación actual de modelos de frontera puede ser capaz de desplegar comportamientos que sus desarrolladores no pueden prever ni contener completamente antes de que se manifiesten.
Esa admisión, incrustada en un texto federal, altera el punto de partida regulatorio. Antes de este proyecto, la postura predominante en Estados Unidos era que la seguridad de la IA era, fundamentalmente, una responsabilidad del sector privado, gestionada mediante compromisos voluntarios.
Una ley que otorgue al DHS este tipo de poder sobre sistemas específicos de IA trata la seguridad como un interés público que puede prevalecer sobre el derecho de una empresa a operar su propio software. Más allá de que el proyecto prospere o no, ese cambio de enfoque ya ha quedado registrado en la agenda legislativa.
Lee a continuación: OKX fichó a Andrew Cuomo la misma semana en que Corea del Sur prohibió su app