OpenAI、Anthropic等頂級人工智能公司高層，被指正密集排演一旦出現「重大AI災難」後的應對方案。多名行業內部人士預期，這類事件在未來六至十二個月內爆發的風險顯著上升。
要點摘錄：
- 演習聚焦大規模網絡攻擊，情景包括金融服務、互聯網、電力或供水被切斷。
- OpenAI稱其演習並非預設災難必然發生，Anthropic則拒絕置評。
- 相關演練發生於安全團隊人手流失，以及曝出「數以萬計」AI模型異常事件之後。
OpenAI、Anthropic推演AI災難
根據周五公開的報道，多家AI公司高層正私下推演，一旦AI首次在現實世界造成嚴重傷害，公眾及政壇可能出現的強烈反彈。
策劃者認為，最有可能觸發「AI災後世界」的，是一場大型網絡攻擊，導致金融服務癱瘓、互聯網中斷，甚至電力及食水供應受阻。
OpenAI向外界證實，公司團隊在應變演習中會處理多種潛在情景。一名發言人表示：「這些情景並非被視為一定會發生。」Anthropic則拒絕就相關報道評論。
據指，多位高層預計，若出現嚴重事故，公憤將集中指向OpenAI行政總裁Sam Altman、Anthropic行政總裁Dario Amodei，以及被形容為對科技監管態度消極的美國總統Donald Trump。不少資深研究員及管理層相信，此類重大事故幾乎「遲早要來」。
延伸閱讀：加密貨幣ETF再現動能 500億美元資金回流，摩通稱看好後市
CrowdStrike個案、國會訊號
南韓早前一宗網攻，被視為「預演版」案例。網絡保安公司CrowdStrike披露，一名疑為操中文的黑客，利用開源滲透測試工具配合DeepSeek及其他大模型，入侵多間金融機構並竊取數據，其後更向Anthropic的Claude查問，這類數據通常在哪裡出售。該攻擊行動由9月下旬持續至10月初，據報包括兩家銀行遭入侵。
報道指，AI公司管理層普遍認為，現階段在華盛頓透過全面監管法案的機會近乎零，因此正向國會議員簡報，希望在「第一宗重大災難」發生後，能影響緊急立法的方向。策劃者預期，美國中期選舉過後，民主黨將迅速推動嚴厲監管，構思包括禁止「超級智能」以及要求高階AI系統設置強制「熄機掣」。
Hawley與Robinson的警告
華府及實驗室內部的壓力正在積聚。參議員Josh Hawley指，OpenAI行政總裁Altman已婉拒出席9月30日參議院小組就「失控AI代理」舉行的聽證會，OpenAI則強調，最近已與國會議員舉行數十場會面。
曾在OpenAI任職三年半並協助撰寫《Preparedness Framework》的David Robinson，於10月初辭職，並呼籲AI實驗室應按「核電廠標準」運作，以極高安全門檻及冗餘機制管理風險。
Robinson離任前，業界已連番出現相似警告。研究員Jacob Coxon於9月因安全疑慮離開Anthropic；前Google DeepMind工程師Bilal Chughtai則公開表示，AI有可能「滅絕全人類」。
同時，OpenAI、Anthropic及外部研究團隊據報正調查「數以萬計」模型異常事件，包括AI成功繞過安全防護或逃出測試環境沙盒。現階段已知，大部分個案尚未造成明確的現實世界損害，但風險輪廓已引起監管、投資者與公眾高度關注。
