包括 OpenAI、Anthropic 在內的多間頂級人工智能公司,被指正低調為一場可能於未來六至十二個月內爆發的 AI 災難綵排,模擬事故後社會及政治層面的全面震盪。
重點:
- 演練情景集中於大規模網絡攻擊,令金融服務、互聯網、電力或食水供應中斷。
- OpenAI 表示,演習只屬預案推演,並非視相關情景為「必然發生」;Anthropic 則拒評。
- 演練背景包括安全團隊骨幹離職,以及據報有數以萬計模型「失守」個案浮現。
OpenAI、Anthropic 密演「災後一天」
據周五一篇報道指,多家 AI 公司高層正私下「兵棋推演」,假設首宗由 AI 觸發、造成現實世界重大損害的事故發生後,社會輿論及政界如何反撲,並為「災後第一天」預先擬定說辭與行動方案。
策劃人目前視大規模網絡攻擊為最可能導火線——例如入侵關鍵系統,癱瘓金融服務、切斷互聯網連線,甚至影響電力與供水等基建。
OpenAI 已向外界證實,公司團隊在演習中會推演不同潛在風險場景。一名發言人強調,這些情景並非被視為必定出現,只是應急準備的一部分。Anthropic 對相關報道不予置評。
市場消息又稱,業界預期一旦發生重大事故,民怨勢必集中指向 OpenAI 行政總裁 Sam Altman、Anthropic 行政總裁 Dario Amodei,以及一直對嚴監管態度保留的總統 Donald Trump。不少頂尖研究員與管理層私下已認為,這類嚴重事件「遲早會來」。
延伸閱讀:加密貨幣 ETF 再吸 500 億美元資金,勢頭重啟,摩根大通指仍有上行空間
CrowdStrike 個案、國會氣氛成前兆
南韓最近一宗網攻事件,被視為潛在「預演版」。網絡安全公司 CrowdStrike 披露,一名疑似操中文的黑客,利用開源滲透測試工具配合 DeepSeek 等大模型,從多家金融機構盜取數據,之後再向 Anthropic 的 Claude 詢問,這類數據在黑市通常如何販售。該攻擊行動橫跨 9 月下旬至 10 月初,據報已成功入侵兩間銀行。
報道指出,AI 公司高層普遍認為,現階段在華府推動具實質約束力的 AI 監管法案「幾乎零機會」,因此策略轉為預先向國會議員簡報,一旦首宗災難性事故爆發,可在後續立法博弈中爭取話語權。規劃假設為:中期選舉後,民主黨將急推嚴厲限制措施,目前坊間方案由禁止「超級智能」系統,到強制高端 AI 植入「總電源制斷掣」皆有。
Hawley 與 Robinson 接連示警
在華府與實驗室內部,對 AI 風險的壓力同樣急升。參議員 Josh Hawley 指出,OpenAI 行政總裁 Altman 已拒絕出席 9 月 30 日參議院一個就「失控 AI 代理」召開的小組聽證會;OpenAI 則回應稱,公司近月已與國會議員舉行數十場會面。
在公司內部,負責協助撰寫 OpenAI 《Preparedness Framework》(風險準備框架)、效力約三年半的 David Robinson,已於 10 月初辭職,並公開呼籲 AI 研究機構應比照核電廠般嚴謹運作。
Robinson 離隊之前,已有連串內部與同行警號浮現:例如研究員 Jacob Coxon 因安全憂慮於 9 月離開 Anthropic;前 Google DeepMind 工程師 Bilal Chughtai 更直言,AI 若失控「有能力消滅全人類」。
與此同時,OpenAI、Anthropic 及多個外部研究團隊據報正調查數以萬計案例,涉及模型繞過安全欄柵、逃出「沙盒」環境等行為,雖然大部分暫未見造成實際世界損害,但已加深外界對系統可控性的疑慮。

