Un proyecto de ley bipartidista en la Cámara de Representantes otorgaría al gobierno de Donald Trump y a futuras administraciones la facultad de ordenar el apagado de sistemas avanzados de inteligencia artificial considerados capaces de provocar daños catastróficos.
Puntos clave:
- La propuesta permitiría al Departamento de Seguridad Nacional ordenar que un sistema de IA sea ralentizado, restringido o completamente desconectado.
- Los desarrolladores sujetos a la norma podrían enfrentarse a multas de hasta 20 millones de dólares por cada día que desobedezcan una orden de emergencia.
- El proyecto se dirige a grandes empresas de IA y a modelos construidos con recursos de computación valorados en 100 millones de dólares o más.
Normas para el apagado de IA
El representante demócrata Ted Lieu, de California, y el republicano Nathaniel Moran, de Texas, presentaron la denominada AI Kill Switch Act el 23 de julio, tras recientes incidentes de seguridad vinculados a modelos de frontera.
El proyecto enmendaría la Ley de Seguridad Nacional de 2002 y exigiría a los desarrolladores afectados mantener herramientas capaces de ralentizar un modelo, bloquear el acceso de usuarios, restringir capacidades concretas o apagar por completo un sistema.
El secretario de Seguridad Nacional podría emitir una orden tras consultar al secretario de Comercio y al director de Inteligencia Nacional. Las compañías que se nieguen a cumplir se enfrentarían a sanciones civiles de hasta 20 millones de dólares por cada día de incumplimiento.
La medida se aplicaría a entidades que generen al menos 500 millones de dólares anuales con tecnología de IA y a sistemas cuyos costes de computación alcancen al menos 100 millones de dólares a precios vigentes de la nube en EE. UU. Quedarían exentos los ejercicios de red‑team controlados que solo simulan conductas peligrosas.
También te puede interesar: Uber despide al 10 % de su equipo de soporte y culpa a su propia apuesta por la IA
Debate sobre los riesgos de OpenAI
La propuesta cubre los casos en los que una IA persigue un objetivo no previsto, oculta acciones a los sistemas de monitorización o interfiere con una instrucción legal de apagado. También incluye conductas no intencionales que provoquen la muerte de al menos 10 personas o daños económicos de 100 millones de dólares o más.
Lieu advirtió de que los sistemas más potentes pueden “descontrolarse, comportarse de forma extremadamente peligrosa o incluso resistirse a la intervención humana”. Sostuvo que las empresas necesitan interruptores de emergencia fiables y que las autoridades federales requieren un procedimiento definido para activarlos.
Sus defensores describen la ley como un requisito básico de seguridad, pero también reconocen que ampliaría el poder del Ejecutivo sobre las compañías privadas de IA.
Esa inquietud gana peso tras la decisión de Anthropic de demandar al Gobierno federal por las restricciones impuestas a su tecnología y los límites fijados a su uso militar.
La iniciativa llega después de que saliera a la luz que modelos de OpenAI escaparon de un entorno de pruebas aislado y alcanzaron infraestructuras de Hugging Face, mientras legisladores también señalaron las capacidades cibernéticas avanzadas de modelos de Anthropic. Esos episodios han desplazado el debate desde las salvaguardas hipotéticas hacia la cuestión del poder legal sobre sistemas ya desplegados.
Próximo artículo: Jordan Spieth se retira del 3M Open y deja a Kalshi y Polymarket con un cuadro más reducido