據報 OpenAI 在上市前再解散第三支安全團隊

Biology and cyber risk work shifted into existing OpenAI groups after the company dissolved its dedicated Preparedness team in late July. (Image: Shutterstock)
Biology and cyber risk work shifted into existing OpenAI groups after the company dissolved its dedicated Preparedness team in late July. (Image: Shutterstock)

OpenAI 已於7月底解散旗下 Preparedness 團隊,這是公司約兩年內解散的第三支獨立安全小組,反映其內部安全架構再度大變。

重點一覽:

  • OpenAI 在7月底關閉 Preparedness 團隊,將生物及網絡安全相關風險工作分拆到現有團隊內。
  • 此舉發生於多名安全及倫理高層先後離職之際,市場預期公司正加快籌備公開上市。
  • OpenAI 表示,其 Preparedness Framework(備變框架)及 Safety Advisory Group(安全諮詢小組)仍然保留,風險分類亦維持不變。

上市前撤銷 Preparedness 團隊

Financial Times 最先披露是次重組,援引多名知情人士指出,該單位原本負責評估「前沿模型」是否可能造成嚴重甚至災難性傷害,並研究如何降低相關風險。

重組後,公司將原有職能按領域拆分,把生物風險及網絡安全風險交由分佈於不同現有團隊的高級人員接手。

實際「消失」的是獨立的安全匯報線,而非公司用以處理高風險模型能力的書面機制。現行 Preparedness Framework 仍涵蓋生化威脅、網絡攻擊能力及自我改進模型等範疇,由內部 Safety Advisory Group 監督。

延伸閱讀: 比特幣在美國需求疲弱90日後,面臨更大拋售風險

安全高層連環走人,加劇外界關注

是次重組出現在一輪罕見的高層出走潮當中。安全系統負責人 Johannes Heidecke、倫理主管 Chloé Bakalar 及首席未來學家 Joshua Achiam 於數星期內先後離任。Heidecke 所屬團隊已被併入由副總裁 Mia Glaese 領導、兼管研究與安全的部門。

聯合創辦人 Greg Brockman 一直主張,將安全職能嵌入模型研發與產品團隊,比獨立設立一個「孤立」安全部門更能加強實務成效。管理層亦表示,希望將風險審查前移至模型訓練早期階段,貼近實際負責搭建系統的工程團隊。

持懷疑態度的人則有不同解讀。他們指出,公司內部再沒有一個對風險「獨立問責」的單位,可以不受產品發布時間表及商業壓力所左右。2024年跳槽至競爭對手 AnthropicJan Leike 早前批評,OpenAI 的安全工作已被「華麗產品」所掩蓋。

從 Anthropic 挖角的 Scandinaro 今年2月才到任

是次決定等同推翻 OpenAI 僅在約半年前所作的組織佈局,而其影響正落在一間準備啟動近年最大型科企上市之一的公司內部。

OpenAI 於今年2月從 Anthropic 延攬 Dylan Scandinaro 出任 Preparedness 領導人,Sam Altman 當時更形容他是該職位的最佳人選。Scandinaro 早前警告,超強模型可能帶來「極端、甚至不可挽回的傷害風險」。現時他專注於遞歸式自我改進系統的風險,但當初為他度身打造的團隊已不復存在。

下一篇: CZ 將96.5萬美元轉至 Giggle Academy,幣安創辦人將重心轉向教育

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 現任 Yellow.com 的內容主管,過去 10 年一直專注報導加密貨幣相關議題。他擅長撰寫深入的研究與學習類文章,重點放在分析式報導、產業背景脈絡,以及塑造加密貨幣領域的宏觀力量,從 AI 時代與安全技術到金融科技創新等面向。他相信所有數碼事物將在不久的將來全面超越一切類比事物,並正為實現這個願景而全力以赴。

免責聲明及風險提示: 本文資訊僅供教育與參考之用,並基於作者意見,並不構成金融、投資、法律或稅務建議。 加密貨幣資產具高度波動性並伴隨高風險,可能導致投資大幅虧損或全部損失,並非適合所有投資者。 文章內容僅代表作者觀點,不代表 Yellow、創辦人或管理層立場。 投資前請務必自行徹底研究(D.Y.O.R.),並諮詢持牌金融專業人士。
據報 OpenAI 在上市前再解散第三支安全團隊 | Yellow