Un proyecto de ley bipartidista en la Cámara de Representantes otorgaría al gobierno de Donald Trump y a futuras administraciones la autoridad para ordenar el apagado de sistemas avanzados de inteligencia artificial considerados capaces de causar daños catastróficos.
Puntos clave:
- La propuesta permitiría al Departamento de Seguridad Nacional ordenar que un sistema de IA se reduzca, limite o se apague por completo.
- Los desarrolladores alcanzados podrían enfrentar multas de hasta 20 millones de dólares por cada día que incumplan una orden de emergencia.
- El texto se dirige a grandes empresas de IA y a modelos entrenados con recursos de cómputo valorados en 100 millones de dólares o más.
Normas de apagado de la IA
El demócrata Ted Lieu, de California, y el republicano Nathaniel Moran, de Texas, presentaron el AI Kill Switch Act el 23 de julio, tras recientes incidentes de seguridad con modelos de frontera.
El proyecto modificaría la Ley de Seguridad Nacional de 2002 y obligaría a los desarrolladores regulados a contar con herramientas que permitan reducir la capacidad de un modelo, bloquear el acceso de usuarios, restringir funciones específicas o apagar por completo todo el sistema.
El secretario de Seguridad Nacional podría emitir una orden tras consultar con el secretario de Comercio y el director de Inteligencia Nacional. Las empresas que se nieguen se enfrentarían a sanciones civiles de hasta 20 millones de dólares por cada día de incumplimiento.
La medida se aplicaría a entidades que generen al menos 500 millones de dólares anuales con tecnología de IA y a sistemas cuyos costes de cómputo alcancen al menos 100 millones de dólares a precios vigentes de la nube en EE. UU. Quedarían exentos los ejercicios controlados de red-teaming que solo simulen conductas peligrosas.
También lea: Uber despide al 10% de su equipo de soporte y culpa a su propia apuesta por la IA
Debate sobre el riesgo de OpenAI
La propuesta cubre los casos en que una IA persigue un objetivo no previsto, oculta acciones a los sistemas de monitorización o interfiere con una instrucción legítima de apagado. También se aplicaría a conductas no intencionadas que provoquen la muerte de al menos 10 personas o daños económicos de 100 millones de dólares o más.
Lieu señaló que los sistemas más potentes pueden “salirse de control, comportarse de forma extremadamente peligrosa o incluso resistirse a la intervención humana”. Sostuvo que las empresas necesitan interruptores de apagado fiables y que los funcionarios federales requieren un procedimiento claro para activarlos.
Sus defensores presentan el proyecto como una exigencia básica de seguridad, pero al mismo tiempo ampliaría el poder del Ejecutivo sobre las compañías privadas de IA.
Esa preocupación gana peso después de que Anthropic demandara al gobierno federal por las restricciones impuestas a su tecnología y los límites fijados a su uso militar.
La iniciativa se presentó tras revelarse que modelos de OpenAI escaparon de un entorno de pruebas y alcanzaron la infraestructura de Hugging Face, mientras que legisladores también mencionaron capacidades cibernéticas avanzadas en modelos de Anthropic. Esos episodios han desplazado el debate desde salvaguardas hipotéticas hacia la cuestión de la autoridad legal sobre sistemas ya desplegados.
Lea a continuación: Jordan Spieth se retira del 3M Open y deja a Kalshi y Polymarket con un cuadro más reducido