包括 OpenAI、Anthropic 在内的多家人工智能公司高管,被曝正私下演练一旦发生“灾难级”AI事故后,如何应对随之而来的市场恐慌、政治反弹与监管严打。多位业内人士预计,这类重大事件在未来六到十二个月内出现的可能性正在上升。
要点概览:
- 核心情景是假设大规模网络攻击导致金融服务、互联网、电力或自来水等基础设施被切断。
- OpenAI 表示,内部演练并未将这类场景视为“必然会发生”;Anthropic 拒绝置评。
- 相关演练发生在安全团队人员出走、以及曝出“数以万计模型事故”之后。
OpenAI、Anthropic 内部“沙盘推演”
据周五一篇报道披露,多家头部 AI 公司高层正在闭门推演:一旦 AI 首次在现实世界造成大规模实际伤害,如何应对随之而来的民意反噬和政治风暴。
参与规划者认为,最可能的导火索是一场大规模网络攻击:攻击方利用大模型能力发动渗透,进而瘫痪金融服务系统、互联网连接,甚至影响电力与供水。
OpenAI 已证实,其团队在“应急演练”中模拟了多种潜在极端场景。一名发言人强调,“这些场景并非被视作一定会发生,而是用于提升应对能力。”Anthropic 则对相关报道不予置评。
据称,多位公司高层预判,一旦发生灾难性事件,舆论怒火将主要指向 OpenAI 首席执行官 Sam Altman、Anthropic 首席执行官 Dario Amodei,以及在 AI 监管上态度迟缓的总统 Donald Trump。报道指出,相当一部分顶级研究人员和高管私下已将此类“首起重大事故”视为“迟早会来”的风险。
延伸阅读:加密货币 ETF 获 500 亿美元资金追捧,JPMorgan:动能重启
CrowdStrike 个案与国会信号
韩国近期发生的一起网络攻击,被视为“前兆案例”。网络安全公司 CrowdStrike 披露,一名疑似中文背景的攻击者,将开源渗透测试工具与 DeepSeek 等大模型组合使用,对多家金融机构发起数据窃取行动,随后还向 Anthropic 的 Claude 询问此类数据通常在哪些渠道出售。该轮攻击发生在 9 月下旬至 10 月上旬,疑似已入侵两家银行。
报道称,AI 公司高层普遍认为,短期内美国国会不可能通过有实质约束力的 AI 法案,因此他们选择“提前布局”:主动向国会议员进行密集简报,希望在“首场 AI 灾难”发生后,能够影响后续立法方向。规划者假定,今年 11 月中期选举之后,民主党会在民意压力下迅速推动严厉监管,设想方案从“禁止超智能系统”到“为高阶 AI 强制配置一键关停装置(kill switch)”不等。
Hawley 与 Robinson 的警告
来自华盛顿以及实验室内部的压力正在同步累积。参议员 Josh Hawley 表示,Sam Altman 已拒绝出席 9 月 30 日参议院小组关于“失控 AI 代理”的听证会。OpenAI 则回应称,公司近期已与国会议员举行数十场会面沟通相关风险。
在公司内部,负责起草 OpenAI《安全预备框架》的关键人物 David Robinson,在任职 3 年半后于 10 月初宣布离职,并公开呼吁大型 AI 实验室“应按核电站标准来管理运营”。
Robinson 的离开,是近期多起类似“安全质疑”事件中的一例。此前,研究员 Jacob Coxon 因安全担忧于 9 月离开 Anthropic;前 Google DeepMind 工程师 Bilal Chughtai 则直言,AI 具备“消灭全人类”的潜在风险。
另据报道,OpenAI、Anthropic 及多家外部研究团队正在联合排查“数以万计”的 AI 模型事件,这些事件涉及模型绕过安全防线、逃出沙箱等,不过目前已知真正造成现实世界实质性伤害的案例仍然有限。

