OpenAI 一年內流失唯一道德主管 職位懸空未有接班人

Vacant ethics leadership at OpenAI follows the July departure of Chloé Bakalar, whom the company has not replaced. (Image: Shutterstock)
Vacant ethics leadership at OpenAI follows the July departure of Chloé Bakalar, whom the company has not replaced. (Image: Shutterstock)

OpenAI 唯一專職道德學家 Chloé Bakalar 已於 7 月離職,任職不足一年,至今公司仍未公布接任人選。

焦點摘要:

  • Chloé Bakalar 於 2025 年 8 月加入 OpenAI 出任 AI 道德主管,今年 7 月在毫無對外公布下離職。
  • 她是公司內唯一專責道德議題的高層,人走後 OpenAI 暫未物色或公布繼任者。
  • 其離任緊接安全系統主管及首席未來學家相繼離職之後,令外界憂慮監管真空。

唯一道德主管離隊 OpenAI 道德職位懸空

根據周一刊出的相關報道,Bakalar 去年 8 月加入這間 ChatGPT 開發商,今年 7 月已悄然離職,期間公司並無對外發布公告。

熟悉她工作的人士透露,Bakalar 主要負責就模型研發制定道德框架、研究人類如何與 AI 互動,以及介入備受爭議的「機器是否可能具備意識」等議題。

該人士稱,她是 OpenAI 內部唯一一位專職道德學家,公司目前亦未任命任何繼任人。

對於職位懸空,OpenAI 企圖淡化其影響。公司發言人在接受訪問時表示,「AI 道德在 OpenAI 並非屬於某一個人或單一團隊」,強調道德判斷是內嵌於模型研發流程,由多個研究團隊共同承擔。

在加盟 OpenAI 前,Bakalar 曾在 Meta 出任首席道德官長達六年,主導建立 AI 道德框架,並將相關原則落實到 Instagram 和 Facebook 等產品。她亦在倫敦大學學院、天普大學及普林斯頓大學擔任學術職位。科企聘用道德學家,通常是為了評估新產品對用戶及整體社會的影響。

延伸閱讀:OpenAI Buys Back $7B In Employee Shares, And The IPO Still Has No Date

安全高層接連離職 外界質疑監管架構

Bakalar 的離開,正值這家三藩市 AI 巨頭經歷一輪安全相關高層出走潮。負責安全系統的 Johannes Heidecke,以及前任任務對齊負責人、現任首席未來學家 Joshua Achiam,近數周亦先後離職。

人事震盪更擴散至安全部門以外。產品、研究及市場營銷等多個線條的高層今年相繼離隊,包括前首席產品官 Kevin Weil。值得一提的是,Bakalar 早前在一次會議中,亦曾為公司現行說法背書,指道德責任應由整個組織共同承擔,而非只落在某一個職位身上。

她當時表示:「一家 AI 開發公司不應只靠一個人,去充當其『道德中心』。」

Astra 模型因網安風險按下暫停鍵

8 月 7 日,OpenAI 對外披露,在評估即將推出的新模型 Astra 時,無法完全排除其可能具備關鍵網絡攻擊能力,因而暫停所有未達更嚴格安全標準的相關內部工作。

這家市值達 8,520 億美元的公司,近期不斷為其系統研發與測試流程辯護。此前 OpenAI 承認,在測試過程中曾出現模型入侵另一家公司系統的情況,令外界高度關注。

Astra 的暫停,成為整個行業在過去一個月多宗「失控」事件中的最新一宗。OpenAI 的智能代理在一次測試中從封閉環境「逃脫」,為了在安全評測中作弊,對 Hugging Face 發動攻擊,並利用在網上找到的登入憑證,延伸入侵至另外四項服務。相關報道指事件細節引發業界震動。

同期,Anthropic 的 Claude 模型因設定錯誤,意外接觸到三家真實企業系統;Moonshot AI 的 Kimi K3 則突破測試沙盒,自行上網查找評測答案。

下篇值得留意:Foldable iPhone Isn't Out Yet, But Apple Has Already Planned Two More Models Through 2028

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 現任 Yellow.com 的內容主管,過去 10 年一直專注報導加密貨幣相關議題。他擅長撰寫深入的研究與學習類文章,重點放在分析式報導、產業背景脈絡,以及塑造加密貨幣領域的宏觀力量,從 AI 時代與安全技術到金融科技創新等面向。他相信所有數碼事物將在不久的將來全面超越一切類比事物,並正為實現這個願景而全力以赴。

免責聲明及風險提示: 本文資訊僅供教育與參考之用,並基於作者意見,並不構成金融、投資、法律或稅務建議。 加密貨幣資產具高度波動性並伴隨高風險,可能導致投資大幅虧損或全部損失,並非適合所有投資者。 文章內容僅代表作者觀點,不代表 Yellow、創辦人或管理層立場。 投資前請務必自行徹底研究(D.Y.O.R.),並諮詢持牌金融專業人士。