Um chatbot fabricou uma informação de inteligência segundo a qual um navio chinês transportava peças de armas nucleares, e quatro fontes disseram que o falso alerta quase desencadeou uma abordagem dos EUA.
Principais pontos:
- Militares americanos armados se preparavam para abordar um navio chinês no Oriente Médio, enquanto aeronaves já estavam no ar.
- Autoridades detectaram o erro pouco antes da operação, ao descobrirem que um chatbot havia identificado mal a carga.
- Pesquisadores defendem limites rígidos para impedir a IA de participar de decisões sobre lançamento nuclear, além de uma linha direta para incidentes com IA.
Chatbot leu mal manifesto de navio chinês
Quatro pessoas familiarizadas com o episódio descreveram uma avaliação que circulou pelas Forças Armadas dos EUA nesta primavera, em meio à guerra com o Irã. O relatório afirmava que um navio chinês no Oriente Médio transportava componentes de um programa de armas nucleares. A apuração sobre o manifesto da embarcação teve origem no Comando de Operações Especiais dos EUA no Pacífico, sediado no Havaí, que não respondeu ao pedido de comentário.
Militares armados chegaram a se preparar para abordar a embarcação, e aviões militares já estavam no ar. As autoridades investigaram o relatório apenas pouco antes da operação prevista e constataram que um analista o havia produzido com auxílio de IA, e que um chatbot havia interpretado erroneamente o material a bordo.
O sistema misturou informações de fontes abertas com inteligência de sinais classificada mantida em sistemas governamentais; em seguida, o analista processou novamente os achados com IA para apresentá-los como um produto rotineiro de inteligência.
Uma fonte classificou o relatório como “totalmente falso”. Os repórteres não conseguiram apurar qual era de fato a carga, nem se o chatbot era comercial ou desenvolvido pelo governo.
Leia também: Projeções da Nvidia para 2030 indicam uma diferença de US$ 727 a US$ 28.560
Sisson e Jiang defendem linhas vermelhas para a questão nuclear
Melanie Sisson, da Brookings Institution, e Tianjiao Jiang, da Universidade Fudan, publicaram na semana passada salvaguardas para a IA militar, no âmbito de um ciclo de conversas que as duas instituições mantêm com a Universidade Tsinghua desde 2019. Eles querem linhas vermelhas que proíbam a tecnologia de participar de decisões sobre lançamento nuclear e de ataques contra redes de comando nuclear de um adversário.
A dupla também propôs uma linha direta dedicada a incidentes com IA e uma definição compartilhada de controle humano significativo. O trabalho deles se insere em um sistema descentralizado, sem padrão único para verificar o que as ferramentas produzem, e a confiabilidade varia amplamente dentro do governo. Autoridades afirmam que o uso de IA em alvos continua avançando, com pouca orientação sobre como a revisão humana evita baixas civis ou fogo amigo.
Estratégia de IA de Hegseth é alvo de escrutínio
O secretário de Defesa Pete Hegseth apresentou em janeiro de 2026 uma estratégia de aceleração que prometia uma força “AI-first” em todas as frentes e colocava modelos de IA nas mãos de três milhões de militares e servidores. Desde então, a adoção segue fragmentada, com escritórios distintos operando ferramentas distintas sob regras de segurança distintas.
Washington e Pequim já enfrentaram esse impasse antes. Joe Biden e Xi Jinping acordaram em novembro de 2024 que humanos, e não máquinas, deveriam controlar decisões sobre o uso de armas nucleares, embora nenhum dos lados tenha detalhado como isso seria fiscalizado. Donald Trump recebe Xi em Washington em 24 de setembro, com a IA na pauta prevista.
Leia a seguir: Gemini, do Google, invade três empresas em primeiras incursões autônomas conhecidas
