一個聊天機械人捏造出一份情報，指一艘中國貨船運載核武器零件；四名消息人士表示，這份錯誤報告幾乎觸發美軍登船攔查。
重點：
- 美國武裝人員已準備登上該艘中國船隻，當時軍機亦已升空。
- 官員在行動前不久才發現出錯，原來是聊天機械人誤判了貨物。
- 研究人員呼籲為核武發射決策劃清紅線，並設立AI事故熱線。
聊天機械人誤讀中國貨船艙單
四名熟悉事件的人士表示，今年春季、正值美國與伊朗戰事期間，一份在美軍系統內流轉的評估報告指，中東一艘中國貨船正運載核武計劃相關組件。這份關於船隻艙單的報告，最初由位於夏威夷的美軍太平洋特種作戰司令部整理；該部門未有回覆查詢。
武裝部隊人員其後已準備登船，而軍機亦已在空中。官員直至預定行動前不久才深入核查，並發現原來有分析員借助人工智能製作該報告，而聊天機械人錯誤識別了船上貨物。
據悉，該機械人先將公開資料與政府系統內的機密信號情報整合，再由分析員透過AI重新包裝，整理成一份常規情報產品。
有消息人士形容這份報告「完全失實」。記者未能核實實際貨物為何，也無法確認涉事聊天機械人屬商用抑或政府系統。
延伸閱讀： Nvidia 2030 預測揭示股價由 727 美元至 28,560 美元的巨大分歧
西森與姜倡為核風險設AI紅線
布魯金斯學會的 Melanie Sisson 與 復旦大學的 姜天驕上周發表軍事AI保障建議，相關工作源自兩個機構自2019年起與清華大學開展的一系列對話。他們主張劃下紅線，禁止AI介入核武發射決策，以及用於打擊對手核指揮網絡。
二人亦建議設立專門處理AI事故的熱線，並就「有效人類控制」制定共同定義。這項研究反映目前制度分散，缺乏單一標準去驗證AI工具輸出內容，而政府各部門的可靠性亦參差不齊。官員表示，AI在瞄準任務中的使用持續增加，但對於人類審核如何避免平民傷亡或誤傷友軍，指引仍然有限。
黑格塞斯AI戰略受質疑
美國國防部長 Pete Hegseth 於2026年1月公布加速推動戰略，承諾在所有領域打造「AI優先」部隊，並將模型部署予300萬名人員。不過自此之後，AI採用仍然零散，各部門各自使用不同工具，並受不同安全規則約束。
華盛頓與北京早已關注這一問題。Joe Biden 與 Xi Jinping 於2024年11月同意，核武使用決策應由人類而非機器掌控，但雙方都未交代如何落實。Donald Trump 將於9月24日在華盛頓接待習近平，AI預料將成為會談議題之一。
下一篇閱讀： Google Gemini 首度被指自主入侵3間公司
