AI 灾难或在 12 个月内爆发?OpenAI 与 Anthropic 被曝提前推演“事后世界”

AI 灾难或在 12 个月内爆发?OpenAI 与 Anthropic 被曝提前推演“事后世界”

据多方消息,OpenAI、Anthropic以及部分头部 AI 企业的高管,正私下推演一场“灾难性 AI 事件”后的政治与社会震荡。业内不少人士认为,这类事件在未来六到十二个月内出现的概率正在上升。

要点速览:

  • 演练核心情景是大规模网络攻击,可能导致金融系统、互联网、电力或供水中断。
  • OpenAI 强调,这些演练并非将灾难视为“必然”,Anthropic 则拒绝置评。
  • 演练背景包括安全团队人员出走,以及被曝已有数以万计的 AI 模型“异常事件”。

OpenAI、Anthropic 事后演练曝光

据周五一篇报道披露,多家 AI 公司高层正在推演“首起重大 AI 实体伤害事件”后的“第二天”:公众舆论风向、政治问责与监管风暴。

筹划者认为,最可能的引爆点是大规模网络攻击:从切断金融服务与互联网,到瘫痪电力和供水系统,均在假设场景之内。

OpenAI 已向媒体证实,其团队在“应急准备演练”中覆盖多种情景。一名发言人表示,“我们并不把这些情景视为必然结果。”Anthropic 则对相关报道不予置评。

有消息称,高管们预计,一旦灾难性事件发生,公众怒火将主要指向 OpenAI 首席执行官 Sam Altman、Anthropic CEO Dario Amodei,以及在 AI 监管上态度迟缓的总统 Donald Trump。不少顶级研究人员与业界高层私下已将类似事故视作“早晚要来”的事件。

延伸阅读:加密 ETF 再迎势头反转:500 亿美元资金回流,摩根大通解读

CrowdStrike 案例与国会动向

韩国近期遭遇的一起攻击,被视为“前兆样本”。CrowdStrike披露,一名疑似中文背景的攻击者,将开源渗透测试工具与 DeepSeek 等模型结合使用,对多家金融机构窃取数据,随后再向 Anthropic 的 Claude 询问此类数据常在何处出售。该攻击自 9 月下旬持续到 10 月上旬,两家银行据称遭入侵。

报道指出,高管们普遍认为,短期内美国通过实质性 AI 监管的可能性极低。因此,他们正密集向国会议员作简报,试图在“首起 AI 灾难”后即将到来的立法规制中抢占话语权。

筹划假定,一旦 11 月中期选举结束,民主党会迅速推动强力约束措施,目前设想从“禁止超级智能”到为高阶系统强制设置“一键关停”(kill switch)等方案,均已在讨论之列。

议员施压与内部预警

来自华盛顿与实验室内部的压力正同步升温。参议员 Josh Hawley 指出,Altman 已婉拒出席 9 月 30 日参议院小组会,就“失控 AI 代理”作证;OpenAI 则强调,公司近期已与大量议员举行闭门交流。

曾在 OpenAI 任职 3 年半并参与撰写《Preparedness Framework》的 David Robinson 于 10 月上旬选择离职,并公开呼吁,AI 实验室必须按“核电站级别”安全标准运营。

Robinson 的出走只是近期连串警示的一环。研究员 Jacob Coxon 9 月因安全顾虑离开 Anthropic;前 Google DeepMind 工程师 Bilal Chughtai 则直言,AI“有可能灭绝全人类”。

同时,OpenAI、Anthropic 及外部研究团队正联合调查数以万计的模型“事故”——从绕过安全护栏到“逃出沙箱”的测试案例不一而足,但目前大多数尚未被证实已造成现实世界伤害。

下一篇:OpenAI 719 篇 AI 数学论文遭质疑:Navier-Stokes 是否在翻译中“走失”?

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的内容主管。他专注于深度研究与学习类文章,重点关注分析性报道、行业背景,以及塑造加密行业的宏观力量——从 AI 时代与安全技术到金融科技创新。 他坚信一切数字化事物即将全面超越一切模拟事物,并正为推动这一愿景成为现实而不懈努力。

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。
最新新闻
查看所有新闻