OpenAIは7月末、「Preparedness（備え）」チームを解体した。ここ約2年で、同社が解散させた 3つ目の安全関連の専任組織となる。
主なポイント
- 7月末にPreparednessチームを廃止し、バイオリスクとサイバーリスクの業務を既存チームに分散。
- 上場準備が進むなか、安全・倫理担当幹部の相次ぐ退社を受け、ガバナンスに対する懸念が拡大。
- Preparedness FrameworkとSafety Advisory Groupは存続し、リスク分類など形式的な枠組みは維持。
上場前にPreparednessチームを解体
この動きは、Financial Timesが報じたもの。 同紙や他メディアによれば、同チームは最先端モデルが深刻または壊滅的な被害をもたらすかどうかを 評価し、 そのリスクを抑制する手立てを検証する役割を担っていた。
再編後は、従来このチームが一括して担っていたミッションを分野別に切り出し、バイオ領域と サイバーセキュリティ領域については、既存組織に所属するシニア人材に分散して担当させる体制へと移行した。
変わったのは主に「報告ライン」であり、危険なモデル能力のエスカレーション手順などを定めた ルールブックそのものは維持されているとされる。Preparedness Frameworkは依然として バイオ化学兵器リスク、サイバー能力、自己改善型モデル といったカテゴリーをカバーし、社内のSafety Advisory Group（安全諮問グループ）が監督役を務める。
関連記事: ビットコイン、米国需要の低迷が90日続き売り圧力が一段と高まるリスク
安全担当幹部の相次ぐ退社でOpenAIへの視線が一段と厳しく
組織再編は、同社の中枢クラスの退社が相次ぐタイミングで行われた。安全システム責任者の Johannes Heidecke氏、倫理担当リードのChloé Bakalar氏、チーフフューチャリストの Joshua Achiam氏らが、数週間のうちに相次いで退社。 Heidecke氏が率いていた組織は、リサーチ兼安全部門を統括するバイスプレジデント、 Mia Glaese氏の研究組織に統合された。
共同創業者のGreg Brockman氏は、安全機能を独立組織として切り離すのではなく、モデル開発や プロダクトチームの内部に組み込むことで、むしろ実効性が高まると主張している。経営陣は、 実際にシステムを構築するエンジニアの現場に近い段階、すなわちトレーニングの初期から リスクチェックを組み込む狙いだと説明する。
しかし懐疑的な見方も根強い。社内でリスクを専任で担い、プロダクトの投入タイミングや 商業的プレッシャーから独立して判断できる組織がなくなったとの指摘だ。2024年に退社し ライバルのAnthropicに移ったJan Leike氏は、同社では安全性よりも 「派手なプロダクト」が優先されるようになったと公言している。
Anthropic出身のScandinaro氏、2月に着任も半年で方針転換
今回の再編は、OpenAIがわずか半年前に下した判断を巻き戻す格好となる。その影響は、 近年最大級のテックIPOの一つと目される上場準備の最中の事業運営に直撃している。
同社は2月、AnthropicからDylan Scandinaro氏を招聘し、 Preparednessチームのトップに据えた。Sam AltmanCEOは当時、同氏を同職に最適の人材と評していた。 Scandinaro氏は着任時、「極端で、場合によっては回復不能な被害をもたらすリスク」について警鐘を鳴らしていた。
現在、同氏は再帰的に自己改善するシステムを主な担当領域としているが、彼が率いる前提だった Preparednessチーム自体は、すでに周囲から消えた格好だ。
