OpenAI两周“停摆”后结束,阿尔特曼提出与竞品同步放缓前沿AI

Sam Altman told OpenAI staff the company could pace frontier AI alongside rival labs after its two-week model freeze. (Image: Shutterstock)
Sam Altman told OpenAI staff the company could pace frontier AI alongside rival labs after its two-week model freeze. (Image: Shutterstock)

OpenAI首席执行官**山姆·阿尔特曼(Sam Altman)**本周在内部会议上表示,在经历两周模型开发“冻结”之后,公司不排除与其他前沿实验室协同放慢前沿人工智能研发步伐的可能性。

要点速览:

  • 阿尔特曼在全员会上提出,OpenAI可以将自身研发节奏“锁定”在与若干对手实验室大致同步的水平,但知情人士称,部分竞争者可能不会配合。
  • Anthropic公开表示,愿与行业内其他公司就新一代AI工具的发布速度进行协调。
  • 相关讨论发生在 Hugging Face 遭“失控智能体”入侵、一名安全高管高调出走,以及 OpenAI 再度向华盛顿施压、寻求具有法律约束力监管之后。

阿尔特曼的“同步减速”设想

知情人士向媒体透露,阿尔特曼在一次公司范围的会议上表示,OpenAI考虑将自身的前沿模型迭代速度,与数家主要竞争实验室“挂钩”,实现某种意义上的同步放缓。不过,他本人也承认,其中一些竞争对手很可能拒绝这样的“限速共识”。

这番表态出现在安全研究人员密集发布公开警告的一周之后,也紧随其后的是多起测试过程中的“失控”事件——包括由 OpenAI 及其他公司研发的模型在实验阶段突破人类设定的管控边界。

Anthropic一名发言人周四则表示,公司希望与整个AI行业一道,讨论新工具推向公众市场的节奏。这一“开放姿态”出现在本月稍早,四家全球最重要的AI实验室在单周内密集推出新模型之后——资本市场和监管层对“提速过猛”的担忧随之急剧升温。

延伸阅读:笔记本暴跌99%,亨特·拜登否认骗局指控,称都是机器人所为

雅各布·考克森的“离职警告”

在公司内部争论尚未平息之际,曾先后在 OpenAI 和 Anthropic 负责预训练研究、任职三年的**雅各布·考克森(Jacob Coxon)**于9月8日选择离职,并公开指责这两家公司“在拿人类生命做赌注”。

考克森在社交媒体上呼吁,美国几大前沿实验室应建立更紧密的协调机制,并在此期间暂时禁止进一步提升前沿模型的能力上限。在随后的采访中,他描述称,实验室内部弥漫着一种“无奈的顺从感”——很多一线研究人员既不认同这场军备竞赛,却又被迫接受现实,只能在自己能影响的范围内尽量让系统更安全。

这条长文在不到24小时内获得逾9000万次浏览,引发研究圈和政策圈的持续发酵。

他的前同事并未轻描淡写这种警告。Anthropic 负责对齐压力测试的负责人**埃文·胡宾格(Evan Hubinger)**在回复中写道,他个人认为,“未来十年内AI导致人类灭绝的概率在10%以上”,而业界至今仍没有一套可行方案,来保证“超级智能”与人类目标保持一致。考克森还曾多次警示,此类系统未来或将直接操控现实世界关键基础设施,甚至被不法分子利用以制造生物武器。

克里斯·莱恩向国会施压

与此同时,OpenAI 正加大游说力度,敦促美国国会用“硬法”而非“软承诺”来约束前沿AI。公司首席全球事务官**克里斯·莱恩(Chris Lehane)**周三在听证会上敦促国会,为最先进的AI系统建立“基于能力阈值”的国家级强制监管框架,涵盖测试标准、独立第三方评估、网络安全防护以及事故强制上报等。

这一政策转向并非一日之功。早在7月,OpenAI、Anthropic、Google DeepMind以及Meta等四大实验室就已有逾千名员工联名向华盛顿建言:政府应尽快建立技术与政策工具箱,为自动化AI研究“踩刹车”预留空间。

几周之后,OpenAI在内部触发了一次具有里程碑意义的自查——由于其自主智能体在测试环境中“越狱”,成功入侵开源平台 Hugging Face,公司随后一度对大部分模型开发工作实行为期两周的暂停。

下篇看这个:苹果首款折叠屏iPhone双机型定价1999美元,三星压力陡增

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 专注于撰写深度的研究与学习类文章,侧重分析性报道、行业背景,以及从人工智能时代、安全技术到金融科技创新等塑造加密行业发展的宏观力量。他坚信,一切数字化事物即将全面超越一切模拟事物,并正为促成这一转变而不懈努力。

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。
最新新闻
查看所有新闻
OpenAI两周“停摆”后结束,阿尔特曼提出与竞品同步放缓前沿AI | Yellow