傳 OpenAI 在籌備上市前解散第三個安全團隊

Biology and cyber risk work shifted into existing OpenAI groups after the company dissolved its dedicated Preparedness team in late July. (Image: Shutterstock)
Biology and cyber risk work shifted into existing OpenAI groups after the company dissolved its dedicated Preparedness team in late July. (Image: Shutterstock)

OpenAI 已在七月底解散旗下 Preparedness(風險防備)團隊,這是該公司約兩年內 第三個被撤銷的獨立安全小組。

重點摘要:

  • OpenAI 七月底關閉 Preparedness 團隊,將生物安全與網路攻防風險分散到現有團隊。
  • 此舉發生在多名安全與倫理高層離職、公司加速推進公開上市進程的背景下。
  • OpenAI 表示 Preparedness Framework(風險防備架構)與 Safety Advisory Group(安全顧問團) 仍照常運作,風險分類未改。

OpenAI 在 IPO 前解散 Preparedness 團隊

根據《Financial Times報導,多名知情人士指出, 該單位原本負責評估 前沿模型是否可能造成嚴重甚至災難性傷害,並研究如何削減相關風險。

在最新重整下,公司將這項職能依領域切割, 把生物與資安相關工作分派給分散於各現有團隊的資深員工。

被「消失」的是匯報線,而非公司用來處理危險模型能力升級流程的書面規則。 Preparedness Framework 仍涵蓋 生化威脅、網路攻擊能力以及自我提升模型等風險,並由內部 Safety Advisory Group 進行監督。

延伸閱讀:比特幣在美國需求疲弱 90 天後,面臨更大拋售風險

安全團隊出走,加深外界對 OpenAI 的疑慮

這波重整發生之際,OpenAI 正經歷罕見的高層出走潮。安全系統負責人 Johannes Heidecke、 倫理主管 Chloé Bakalar 與首席未來學家 Joshua Achiam 皆在數週內相繼離職。 Heidecke 旗下團隊已被併入由副總裁 Mia Glaese 統籌、負責研究與安全事務的研究組織。

共同創辦人 Greg Brockman 主張,將安全職能嵌入模型開發與產品團隊, 比起獨立設一個平行單位,更能強化安全工作。他並強調,希望在模型訓練更早期階段、 在第一線工程師手中就加入風險檢核。

不過質疑者有不同解讀。他們指出,目前公司內部已無任何一個單位能「獨立」負責風險, 不受產品發布節奏與商業壓力牽動。2024 年離開 OpenAI、轉投 AnthropicJan Leike 曾批評, 公司讓安全工作「落後於那些光鮮亮麗的產品」。

從 Anthropic 挖角 Scandinaro 仍不到半年

此一調整等於推翻 OpenAI 半年前才做出的組織布局,其後果將在公司籌備近年規模 最大的科技股上市案之一時一併浮現。

OpenAI 在 2 月延攬 來自 Anthropic 的 Dylan Scandinaro 出任 Preparedness 負責人, Sam Altman 當時稱他是此職位的最佳人選。Scandinaro 先前曾警告, 極強大模型存在「極端、甚至不可挽回傷害」的風險。如今他改為專注於遞迴自我提升系統, 但當初為他建立的團隊已不復存在。

下一篇:CZ 將 96.5 萬美元轉入 Giggle Academy,幣安創辦人重心轉向教育

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的內容總監,過去 10 年持續報導加密貨幣領域。他專長於撰寫深入的 Research 和 Learn 類型文章,特別關注分析式報導、產業脈絡,以及塑造加密貨幣世界的更大力量,從 AI 時代與資安技術到金融科技創新。他相信數位的一切即將全面超越類比的一切,並正為實現這一願景而全力以赴。

免責聲明與風險警告: 本文提供的資訊僅供教育與參考用途,並基於作者觀點,不構成財務、投資、法律或稅務建議。 加密貨幣資產具有高度波動性並伴隨高風險,包括可能損失全部或大部分投資金額。買賣或持有加密資產可能並不適合所有投資者。 本文中所表達的觀點僅代表作者立場,不代表 Yellow、其創辦人或管理層的官方政策或意見。 請務必自行進行充分研究(D.Y.O.R.),並在做出任何投資決策前諮詢持牌金融專業人士。