Um chatbot fabricou uma inteligência segundo a qual um navio chinês transportava componentes de armas nucleares, e quatro fontes disseram que o falso relatório quase desencadeou uma abordagem dos EUA.
Principais pontos:
- Militares americanos armados se preparavam para embarcar em um navio chinês no Oriente Médio, enquanto aeronaves já estavam no ar.
- Autoridades perceberam o erro pouco antes da operação, após constatarem que um chatbot havia identificado erroneamente a carga.
- Pesquisadores defendem linhas vermelhas para excluir a IA de decisões de lançamento nuclear, além de uma linha direta para incidentes envolvendo IA.
Chatbot leu errado manifesto de navio chinês
Quatro pessoas familiarizadas com o episódio descreveram uma avaliação que circulou pelas Forças Armadas dos EUA nesta primavera, em meio à guerra com o Irã. O relatório dizia que um navio chinês no Oriente Médio transportava componentes de um programa de armas nucleares. A apuração sobre o manifesto da embarcação teve origem no Comando de Operações Especiais do Pacífico dos EUA, sediado no Havaí, que não respondeu ao pedido de comentário.
Militares armados se prepararam para abordar a embarcação, e aviões militares já estavam no ar. As autoridades só examinaram o relatório pouco antes da operação prevista e descobriram que um analista o havia montado com auxílio de IA, e que um chatbot havia identificado erroneamente o material a bordo.
O bot misturou informações de fontes abertas com inteligência de sinais classificada, armazenada em sistemas do governo, e depois o analista voltou a processar as conclusões com IA para transformá-las em um produto de inteligência de rotina.
Uma fonte classificou o relatório como “completamente falso”. Os repórteres não conseguiram apurar qual era, de fato, a carga, nem se o chatbot era um produto comercial ou do governo.
Leia também: Previsões para Nvidia em 2030 revelam intervalo de US$ 727 a US$ 28.560
Sisson e Jiang pedem linhas vermelhas para a área nuclear
Melanie Sisson, do Brookings Institution, e Tianjiao Jiang, da Universidade Fudan, publicaram na semana passada salvaguardas para a IA militar, em um ciclo de conversas que as duas instituições mantêm com a Universidade Tsinghua desde 2019. Eles querem linhas vermelhas que impeçam a tecnologia de participar de decisões de lançamento nuclear e de ataques às redes de comando nuclear de um adversário.
A dupla também propôs uma linha direta específica para incidentes envolvendo IA e uma definição compartilhada de controle humano efetivo. O trabalho se insere em um sistema descentralizado, sem um padrão único para verificar o que as ferramentas produzem, e a confiabilidade varia muito dentro do governo. Autoridades afirmam que o uso de IA na definição de alvos continua crescendo, com pouca orientação sobre como uma revisão humana impede mortes de civis ou fogo amigo.
Estratégia de Hegseth para IA é alvo de questionamentos
O secretário de Defesa Pete Hegseth divulgou em jan. de 2026 uma estratégia de aceleração que prometia uma força “IA first” em todas as frentes e colocava modelos à disposição de três milhões de integrantes. Desde então, a adoção segue pulverizada, com órgãos distintos operando ferramentas distintas sob regras de segurança distintas.
Washington e Pequim já tentaram enfrentar esse problema antes. Joe Biden e Xi Jinping acordaram em novembro de 2024 que humanos, e não máquinas, deveriam controlar as decisões sobre uso de armas nucleares, embora nenhum dos lados tenha detalhado como isso seria fiscalizado. Donald Trump recebe Xi em Washington em 24 de setembro, com a IA prevista na pauta.
Leia a seguir: Google Gemini invade 3 empresas em primeiras intrusões autônomas conhecidas
