一款聊天机器人伪造了情报，声称一艘中国船只装载核武器部件；四名知情人士表示，这份错误报告险些触发美国军方对该船实施登船检查。
重点摘要：
- 在中东地区，美方武装人员一度准备登船，而军机当时已在空中待命。
- 官员在行动前不久才发现问题，确认情报系由聊天机器人误判货物信息所致。
- 研究人员呼吁为AI划定红线，禁止其介入核打击决策，并设立AI事件热线。
聊天机器人误读中国货船舱单
四名了解此事的人士表示，今年春季、在伊朗战争期间，这份评估曾在美国军方内部流转。报告称，一艘位于中东的中国船只正运载核武器计划相关部件。与该船舱单相关的情报最初来自位于夏威夷的美国太平洋特种作战司令部，该机构未回应置评请求。
美军武装人员已开始准备登船，军机也已升空。就在原定行动前不久，官员重新核查这份报告，并发现一名分析员借助AI生成了相关内容，而聊天机器人误判了船上货物。
据称，该机器人先整合了公开来源材料与政府系统中的机密信号情报，再由分析员借助AI二次加工，整理成一份常规情报产品。
一名消息人士称，这份报告“完全错误”。记者未能确认实际货物究竟是什么，也无法确定所用聊天机器人究竟是商业产品还是政府开发系统。
另请阅读： 英伟达2030年预测区间拉大，股价目标差距高达727至28560美元
西森与姜戈尔呼吁为核风险设立AI红线
布鲁金斯学会的梅拉妮·西森与复旦大学的姜天骄上周发布了军事AI安全保障建议。这项研究源自两家机构自2019年以来与清华大学开展的一系列对话。两人主张设立明确红线，禁止AI参与核打击决策，也不得用于针对对手核指挥网络的攻击。
二人还提出建立专门的AI事件热线，并定义“有意义的人类控制”标准。相关研究落在一个分散化体系中，该体系并不存在统一标准来验证工具输出，且政府内部工具的可靠性差异很大。官员表示，AI在目标识别中的使用正在增加，但对于人类审查员如何避免误伤平民或友军，缺乏明确指引。
黑格塞斯的AI战略遭审视
美国国防部长皮特·黑格塞斯于2026年1月发布加速战略，承诺把AI-first理念推广至所有作战领域，并让300万名人员都用上模型。此后，AI部署依然呈现碎片化，不同部门各自运行不同工具，遵循不同安全规则。
华盛顿与北京此前也曾讨论过这一问题。乔·拜登与习近平在2024年11月同意，核武器使用决策应由人而非机器控制，但双方都未说明具体如何执行。唐纳德·特朗普将于9月24日在华盛顿接待习近平，AI预计将成为会谈议题之一。
继续阅读： 谷歌Gemini首现自主入侵，三家公司遭黑客攻击
