传闻称 OpenAI 在拟上市前解散第三支安全团队

Biology and cyber risk work shifted into existing OpenAI groups after the company dissolved its dedicated Preparedness team in late July. (Image: Shutterstock)
Biology and cyber risk work shifted into existing OpenAI groups after the company dissolved its dedicated Preparedness team in late July. (Image: Shutterstock)

OpenAI 于 7 月底解散 Preparedness(前沿风险预备)团队。这是公司在近两年内撤销的第三支独立安全团队。

要点概览:

  • OpenAI 于 7 月下旬关闭 Preparedness 团队,将生物与网络安全风险工作拆分,分别并入现有团队。
  • 此举发生在一系列安全与伦理高层相继离职、公司加速推进公开上市的背景下。
  • OpenAI 表示,Preparedness 框架和内部安全咨询委员会仍在运作,原有风险分类体系保持不变。

临近 IPO,OpenAI 解散 Preparedness 团队

Financial Times(金融时报) 报道,多名知情人士称,该团队负责评估前沿模型是否可能造成严重甚至灾难性伤害,并研究削减相关风险的技术和流程。此前报道称,该小组在内部扮演“高危能力裁判员”的角色。

重组后,公司将原本集中在 Preparedness 团队的职责按领域拆分,交由分布在不同业务线的高级员工负责生物安全与网络安全等模块,安全工作被“内嵌”进各条现有研发与产品线。

消失的是汇报链条,而不是纸面上的风险管控规则。OpenAI 的 Preparedness 框架仍在运转,依旧覆盖生化威胁、网络攻防能力以及可递归自我改进模型等高风险领域,由公司内部的 Safety Advisory Group(安全咨询小组)负责监督与升级流程。

延伸阅读:比特币在美国需求疲弱 90 天后面临更大抛压风险

安全高层离职放大外界对 OpenAI 的质疑

架构调整之际,OpenAI 正经历一轮罕见的高层出走潮。安全系统负责人 Johannes Heidecke、伦理负责人 Chloé Bakalar 以及首席未来学家 Joshua Achiam 均在数周内相继离职。Heidecke 领导的团队被纳入由副总裁 Mia Glaese 掌管的研究与安全组织。

联合创始人 Greg Brockman 一直主张,将安全职能深度嵌入模型研发和产品团队,比设立一支“孤立”的安全部门更有效。他与其他管理层强调,希望在模型训练更早阶段、在靠近一线工程师的环节就进行系统性风险审查。

持怀疑态度者则给出截然相反的解读。他们指出,如今公司内部已没有一个与业务节奏相对“脱钩”、专职对风险“独立背书”的单一所有者。2024 年跳槽至竞争对手 Anthropic 的前 OpenAI 高管 Jan Leike 就曾批评称,安全工作在 OpenAI 一度被“闪亮的新产品”挤到后面。

从 Anthropic 挖角的 Scandinaro 今年 2 月才到岗

这一决定等于推翻了 OpenAI 半年前刚刚做出的组织设计,其影响如今直接落在一家筹备近年来规模最大科技上市之一的企业身上。

OpenAI 于今年 2 月从 Anthropic 招募 Dylan Scandinaro 出任 Preparedness 负责人,Sam Altman 当时称其为该岗位的最佳人选。Scandinaro 当时公开警示称,前沿模型存在“极端甚至不可逆伤害”的风险。

随着团队被撤销,他如今将重心转向递归自我改进系统,但当初为其量身打造的团队架构已不复存在。

下篇推荐:CZ 将 96.5 万美元转入 Giggle Academy,币安创始人重心转向教育

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的内容负责人,在过去 10 年里一直报道加密行业。 他专注于深度的 Research 和 Learn 文章,重点关注分析性报道、行业背景,以及塑造加密世界的更大力量,从 AI 时代与安全技术到金融科技创新。 他坚信数字化的一切即将全面超越模拟世界的一切,并正为促成这一转变而不懈努力。

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。
传闻称 OpenAI 在拟上市前解散第三支安全团队 | Yellow