OpenAI 已於7月底解散旗下 Preparedness 團隊,這是公司約兩年內解散的第三支獨立安全小組,反映其內部安全架構再度大變。
重點一覽:
- OpenAI 在7月底關閉 Preparedness 團隊,將生物及網絡安全相關風險工作分拆到現有團隊內。
- 此舉發生於多名安全及倫理高層先後離職之際,市場預期公司正加快籌備公開上市。
- OpenAI 表示,其 Preparedness Framework(備變框架)及 Safety Advisory Group(安全諮詢小組)仍然保留,風險分類亦維持不變。
上市前撤銷 Preparedness 團隊
Financial Times 最先披露是次重組,援引多名知情人士指出,該單位原本負責評估「前沿模型」是否可能造成嚴重甚至災難性傷害,並研究如何降低相關風險。
重組後,公司將原有職能按領域拆分,把生物風險及網絡安全風險交由分佈於不同現有團隊的高級人員接手。
實際「消失」的是獨立的安全匯報線,而非公司用以處理高風險模型能力的書面機制。現行 Preparedness Framework 仍涵蓋生化威脅、網絡攻擊能力及自我改進模型等範疇,由內部 Safety Advisory Group 監督。
延伸閱讀: 比特幣在美國需求疲弱90日後,面臨更大拋售風險
安全高層連環走人,加劇外界關注
是次重組出現在一輪罕見的高層出走潮當中。安全系統負責人 Johannes Heidecke、倫理主管 Chloé Bakalar 及首席未來學家 Joshua Achiam 於數星期內先後離任。Heidecke 所屬團隊已被併入由副總裁 Mia Glaese 領導、兼管研究與安全的部門。
聯合創辦人 Greg Brockman 一直主張,將安全職能嵌入模型研發與產品團隊,比獨立設立一個「孤立」安全部門更能加強實務成效。管理層亦表示,希望將風險審查前移至模型訓練早期階段,貼近實際負責搭建系統的工程團隊。
持懷疑態度的人則有不同解讀。他們指出,公司內部再沒有一個對風險「獨立問責」的單位,可以不受產品發布時間表及商業壓力所左右。2024年跳槽至競爭對手 Anthropic 的 Jan Leike 早前批評,OpenAI 的安全工作已被「華麗產品」所掩蓋。
從 Anthropic 挖角的 Scandinaro 今年2月才到任
是次決定等同推翻 OpenAI 僅在約半年前所作的組織佈局,而其影響正落在一間準備啟動近年最大型科企上市之一的公司內部。
OpenAI 於今年2月從 Anthropic 延攬 Dylan Scandinaro 出任 Preparedness 領導人,Sam Altman 當時更形容他是該職位的最佳人選。Scandinaro 早前警告,超強模型可能帶來「極端、甚至不可挽回的傷害風險」。現時他專注於遞歸式自我改進系統的風險,但當初為他度身打造的團隊已不復存在。





