Un chatbot fabricó una alerta de inteligencia según la cual un buque chino transportaba piezas de un programa de armas nucleares, y cuatro fuentes dijeron que ese informe falso casi activó un abordaje estadounidense.
Puntos clave:
- Personal militar estadounidense armado se preparó para abordar un buque chino en Oriente Medio mientras ya había aeronaves en el aire.
- Los responsables detectaron el error poco antes de la operación, tras descubrir que un chatbot había confundido el cargamento.
- Varios expertos piden líneas rojas para impedir que la IA intervenga en decisiones de lanzamiento nuclear y una línea directa para incidentes relacionados con IA.
Un chatbot malinterpretó el manifiesto de un buque chino
Cuatro personas familiarizadas con el episodio describieron una evaluación que circuló por el aparato militar estadounidense esta primavera, en plena guerra con Irán. Según ese informe, un buque chino en Oriente Medio transportaba componentes vinculados a un programa de armas nucleares. La información sobre el manifiesto de la nave se originó en el Mando de Operaciones Especiales del Pacífico de EE. UU., con sede en Hawái, que no respondió a una solicitud de comentarios.
Los militares armados se dispusieron a abordar el buque y los aviones ya estaban en el aire. Los responsables revisaron el informe apenas antes de la operación prevista y descubrieron que un analista lo había elaborado con ayuda de IA, y que un chatbot había identificado erróneamente la carga a bordo.
El bot combinó material de fuentes abiertas con inteligencia de señales clasificada almacenada en sistemas gubernamentales; después, el analista volvió a pasar los hallazgos por IA para presentarlos como un producto de inteligencia rutinario.
Una fuente calificó el informe de “completamente falso”. No fue posible determinar cuál era exactamente la carga ni si el chatbot era un producto comercial o desarrollado por el Gobierno.
Además, lea: Las previsiones de Nvidia para 2030 dejan una horquilla de 727 a 28.560 dólares
Sisson y Jiang reclaman líneas rojas nucleares
Melanie Sisson, del Brookings Institution, y Tianjiao Jiang, de la Universidad de Fudan, publicaron la semana pasada una propuesta de salvaguardas para la IA militar, en el marco de un ciclo de conversaciones que ambas instituciones mantienen con la Universidad Tsinghua desde 2019. Piden líneas rojas que prohíban el uso de esta tecnología en decisiones de lanzamiento nuclear y en ataques contra las redes de mando nuclear de un adversario.
Ambos también propusieron una línea directa específica para incidentes de IA y una definición compartida de control humano significativo. Su trabajo se inserta en un sistema descentralizado, sin un estándar único para verificar lo que producen estas herramientas, y con una fiabilidad que varía mucho dentro de la Administración. Los funcionarios afirman que el uso de IA en la selección de objetivos sigue creciendo, con escasa orientación sobre cómo un revisor humano puede evitar bajas civiles o fuego amigo.
La estrategia de Hegseth sobre IA, bajo escrutinio
El secretario de Defensa, Pete Hegseth, publicó en enero de 2026 una estrategia de aceleración que prometía una fuerza “IA primero” en todos los ámbitos y ponía modelos en manos de tres millones de efectivos. Desde entonces, la adopción ha seguido fragmentada, con oficinas distintas utilizando herramientas distintas bajo normas de seguridad distintas.
Washington y Pekín ya han chocado antes con este problema. Joe Biden y Xi Jinping acordaron en noviembre de 2024 que deben ser los humanos, y no las máquinas, quienes controlen las decisiones sobre el uso de armas nucleares, aunque ninguna de las dos partes detalló cómo hacer cumplir ese principio. Donald Trump recibirá a Xi en Washington el 24 de septiembre, y se espera que la IA figure en la agenda.
Leer también: Google Gemini vulnera a tres empresas en las primeras intrusiones autónomas conocidas
