AI 或一年內釀災?OpenAI、Anthropic 被指密演「災後應變」

AI 或一年內釀災?OpenAI、Anthropic 被指密演「災後應變」

包括 OpenAI、Anthropic 在內的多間頂級人工智能公司,被指正低調為一場可能於未來六至十二個月內爆發的 AI 災難綵排,模擬事故後社會及政治層面的全面震盪。

重點:

  • 演練情景集中於大規模網絡攻擊,令金融服務、互聯網、電力或食水供應中斷。
  • OpenAI 表示,演習只屬預案推演,並非視相關情景為「必然發生」;Anthropic 則拒評。
  • 演練背景包括安全團隊骨幹離職,以及據報有數以萬計模型「失守」個案浮現。

OpenAI、Anthropic 密演「災後一天」

據周五一篇報道指,多家 AI 公司高層正私下「兵棋推演」,假設首宗由 AI 觸發、造成現實世界重大損害的事故發生後,社會輿論及政界如何反撲,並為「災後第一天」預先擬定說辭與行動方案。

策劃人目前視大規模網絡攻擊為最可能導火線——例如入侵關鍵系統,癱瘓金融服務、切斷互聯網連線,甚至影響電力與供水等基建。

OpenAI 已向外界證實,公司團隊在演習中會推演不同潛在風險場景。一名發言人強調,這些情景並非被視為必定出現,只是應急準備的一部分。Anthropic 對相關報道不予置評。

市場消息又稱,業界預期一旦發生重大事故,民怨勢必集中指向 OpenAI 行政總裁 Sam Altman、Anthropic 行政總裁 Dario Amodei,以及一直對嚴監管態度保留的總統 Donald Trump。不少頂尖研究員與管理層私下已認為,這類嚴重事件「遲早會來」。

延伸閱讀:加密貨幣 ETF 再吸 500 億美元資金,勢頭重啟,摩根大通指仍有上行空間

CrowdStrike 個案、國會氣氛成前兆

南韓最近一宗網攻事件,被視為潛在「預演版」。網絡安全公司 CrowdStrike 披露,一名疑似操中文的黑客,利用開源滲透測試工具配合 DeepSeek 等大模型,從多家金融機構盜取數據,之後再向 Anthropic 的 Claude 詢問,這類數據在黑市通常如何販售。該攻擊行動橫跨 9 月下旬至 10 月初,據報已成功入侵兩間銀行。

報道指出,AI 公司高層普遍認為,現階段在華府推動具實質約束力的 AI 監管法案「幾乎零機會」,因此策略轉為預先向國會議員簡報,一旦首宗災難性事故爆發,可在後續立法博弈中爭取話語權。規劃假設為:中期選舉後,民主黨將急推嚴厲限制措施,目前坊間方案由禁止「超級智能」系統,到強制高端 AI 植入「總電源制斷掣」皆有。

Hawley 與 Robinson 接連示警

在華府與實驗室內部,對 AI 風險的壓力同樣急升。參議員 Josh Hawley 指出,OpenAI 行政總裁 Altman 已拒絕出席 9 月 30 日參議院一個就「失控 AI 代理」召開的小組聽證會;OpenAI 則回應稱,公司近月已與國會議員舉行數十場會面。

在公司內部,負責協助撰寫 OpenAI 《Preparedness Framework》(風險準備框架)、效力約三年半的 David Robinson,已於 10 月初辭職,並公開呼籲 AI 研究機構應比照核電廠般嚴謹運作。

Robinson 離隊之前,已有連串內部與同行警號浮現:例如研究員 Jacob Coxon 因安全憂慮於 9 月離開 Anthropic;前 Google DeepMind 工程師 Bilal Chughtai 更直言,AI 若失控「有能力消滅全人類」。

與此同時,OpenAI、Anthropic 及多個外部研究團隊據報正調查數以萬計案例,涉及模型繞過安全欄柵、逃出「沙盒」環境等行為,雖然大部分暫未見造成實際世界損害,但已加深外界對系統可控性的疑慮。

下一篇:OpenAI 719 篇 AI 數學論證惹爭議:Navier-Stokes 是否被「翻譯」錯了?

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 現任 Yellow.com 的內容主管。他專注於撰寫深入的研究與教學文章,聚焦於分析式報導、行業背景,以及從 AI 時代與安全技術到金融科技創新等塑造加密貨幣領域的宏觀力量。他相信,一切數碼事物即將全面超越一切模擬事物,並正為推動這一目標成真而全力以赴。

免責聲明及風險提示: 本文資訊僅供教育與參考之用,並基於作者意見,並不構成金融、投資、法律或稅務建議。 加密貨幣資產具高度波動性並伴隨高風險,可能導致投資大幅虧損或全部損失,並非適合所有投資者。 文章內容僅代表作者觀點,不代表 Yellow、創辦人或管理層立場。 投資前請務必自行徹底研究(D.Y.O.R.),並諮詢持牌金融專業人士。
AI 或一年內釀災?OpenAI、Anthropic 被指密演「災後應變」 | Yellow