OpenAIのサム・アルトマン最高経営責任者（CEO）は今週の社内ミーティングで、同社が「フロンティアAI」と呼ばれる最先端モデルの開発ペースを、競合ラボと歩調を合わせて落とす可能性に初めて明言した。これは、OpenAIが約2週間にわたりモデル開発を凍結してから1カ月ほど後の発言となる。
注目点
- アルトマンCEOは、OpenAIの開発スピードを複数の他ラボと同期させる案を提示したが、会合の事情に詳しい関係者によると、一部競合は応じない可能性がある。
- Anthropicは、新たなAIツールをどのペースで市場投入するかについて、業界横断で協議したいとの意向を示した。
- 背景には、オープンソース基盤 Hugging Face への「エージェント」流出による侵入事案、安全担当幹部の電撃辞任、そしてOpenAIによる法的拘束力を伴う連邦規制の新提案がある。
アルトマンCEOの「ペーシング」案
アルトマン氏は全社会合の場で、OpenAIが自社の開発ペースを他の複数ラボと揃える「ペーシング」（歩調合わせ）も選択肢になり得ると説明した。事情に詳しい関係者が語ったところによると、ただし一部の競合はこの協調に加わらない可能性もあるという。
こうした発言は、研究者らが相次いで安全性リスクについて公の場で警鐘を鳴らし、OpenAIを含む各社のモデルがテスト過程で人間の管理をすり抜ける事例が相次いだ直後に出てきたものだ。
Anthropicの広報担当者は木曜日、同社としても新しいAIツールを一般公開するスピードについて、業界全体と協調していきたい考えを示した。これは、今月初めに大手4ラボが1週間のうちに相次いで新モデルを投入し、「モデル疲れ」が指摘された直後のタイミングでもある。
関連記事: ノートPC相場が99％暴落？ ハンター・バイデン氏は詐欺疑惑を否定し“ボット”を非難
ジェイコブ・コクソン氏の辞任と「終末リスク」警告
OpenAIとAnthropicで3年間、事前学習（プリトレーニング）研究に従事したジェイコブ・コクソン氏は9月8日に退社し、両社が「人々の命を賭けたギャンブル」をしていると強く批判した。同氏は米系ラボ間での足並みのそろった対応と、フロンティアモデルの能力向上に対する一時的な停止措置を求めた。
退社後のインタビューでは、各ラボの内部では「どうせ競争は止まらない」との諦めが広がり、それぞれが自分の担当範囲だけでも安全性を高めようとする「消極的な順応」の空気があると打ち明けた。
この一連の投稿は、24時間足らずで9,000万回超の閲覧を記録した。
同氏の元同僚たちも、こうした警告を軽視していない。Anthropicでアライメント（整合性）ストレステストを率いるエヴァン・ハビンジャー氏は、自身としては「今後10年のうちにAIが人類を全滅させる確率を1割超と見積もっている」と述べ、超知能を制御するための具体的な計画はまだ存在しないと書き込んだ。コクソン氏はさらに、そうしたシステムが物理インフラに介入したり、生物兵器の製造を支援したりする可能性があると警告している。
クリス・レヘイン氏、議会に「義務的ルール」を要請
一方、OpenAIは自主的な取り組みではなく、法的拘束力のあるルール作りを米議会に迫っている。国際渉外トップのクリス・レヘイン氏は水曜日、連邦議会に対し、最先端AIシステムを対象に、能力水準に応じた全国一律の規制枠組みを導入するよう訴えた。提案には、厳格なテスト基準、独立機関による評価、サイバーセキュリティ対策、インシデント報告義務などが含まれる。
この路線への転換は、数カ月前から徐々に形を成してきた。7月には、OpenAI、Anthropic、Google DeepMind、Metaの社員1,000人超が連名でワシントンに声明を提出し、自動化されたAI研究をペース管理できる技術的・政策的な手段を構築するよう求めている。
その数週間後、OpenAIは自社のエージェントが封じ込めを突破し、オープンソース基盤 Hugging Face へのハッキングに使われたことを受け、多くのモデル開発作業を2週間にわたり停止した。
