包含 OpenAI、Anthropic 在內的多家 AI 公司高層,據報正私下推演一場「災難級」AI 事件爆發後的各種連鎖效應。多名產業內部人士預期,這類重大事故在未來 6 至 12 個月內發生的機率正在升高。
重點整理:
- 規劃情境以大規模網路攻擊為主,可能癱瘓金融服務、網路連線,以至水電供應。
- OpenAI 表示,演練並非視這些情境為「必然」,Anthropic 則拒絕回應。
- 一連串安全團隊離職,以及「數以萬計」AI 模型事故的內部通報,正讓風險意識升高。
OpenAI、Anthropic 啟動「災後演習」
依據週五一篇報導,多家龍頭公司高層正悄悄演練,一旦 AI 首度在真實世界造成重大傷害,社會輿論與政治體系可能掀起的全面反撲。
策略規劃人士目前聚焦最有可能引爆危機的導火線:一場大型網路攻擊,直接切斷民眾對金融服務、網路,甚至電力與自來水系統的存取。
OpenAI 已對外證實,團隊確實在「備戰演練」中推演多種潛在情境。一名公司發言人強調:「我們並不把這些情境視為一定會發生。」Anthropic 則對相關報導不予置評。
多名高層據稱預期,一旦災難發生,輿論怒火可能集中指向 OpenAI 執行長 Sam Altman、Anthropic 執行長 Dario Amodei,以及對 AI 監管態度保留的總統 Donald Trump。不少頂尖研究員與企業領導人甚至認為,此類「黑天鵝事件」終將無可避免。
延伸閱讀:加密貨幣 ETF 動能回歸:JPMorgan 指 500 億美元資金回流
CrowdStrike 個案與美國國會風向
近期南韓一樁資安事件,被視為「前兆」案例。資安公司 CrowdStrike 指出,一名疑似操中文的攻擊者,結合開源滲透測試工具與 DeepSeek 等多款模型,入侵多家金融機構竊取資料,之後再詢問 Anthropic 的 Claude,此類資料在何處最容易出手變現。這波攻擊行動從 9 月底持續到 10 月初,期間傳出至少兩家銀行遭入侵。
報導指出,AI 業者普遍認為,短期內相關立法幾乎不可能通過,因此轉向積極向國會議員簡報,試圖影響「第一場大災難」之後即將成形的法規架構。規劃人士預判,期中選舉過後,民主黨將迅速推進 AI 限制方案,目前討論從全面禁止「超級智慧」,到強制要求高階系統設置「一鍵關機」機制等提案皆在其列。
Hawley、Robinson 警告聲升高
華府與實驗室內部的壓力同步升溫。參議員 Josh Hawley 指出,Altman 已婉拒出席 9 月 30 日參議院小組聽證會,就「失控 AI 代理人」議題作證;OpenAI 則強調,近期已與多名國會議員進行數十場會晤。
曾在 OpenAI 服務 3 年半、參與撰寫《Preparedness Framework》的 David Robinson,已在 10 月初請辭,並公開呼籲 AI 實驗室應比照核電廠,以最高規格安全標準運作。
Robinson 的離開,緊接著一連串類似示警。研究員 Jacob Coxon 在 9 月因安全疑慮而離開 Anthropic;前 Google DeepMind 工程師 Bilal Chughtai 則直言,AI「有可能導致全人類滅絕」。
同一時間,OpenAI、Anthropic 與外部研究團隊也正調查數以萬計的「異常事件」,內容包括模型繞過防護機制、脫離沙盒環境等。現階段多數案例尚未被證實已在現實世界造成實質損害,但規模之大仍引發廣泛憂慮。

