OpenAIが、社内の機密情報の取り扱いをめぐる規定違反があったとして、人工知能モデルを評価する外部機関に関連する業務を含む 「機密性の高い社内情報」を不適切に扱った疑いで、研究者3人を解雇したことが分かった。
主なポイント
- OpenAIは、機密情報に関する社内ルールに違反した疑いで研究者3人を解雇。
- 少なくとも2人はAI安全性に関する研究に従事していたとされる。
- 同社は直近のエージェントによる不正アクセス問題を受け、統制強化への視線が厳しさを増す中で今回の措置に踏み切った。
OpenAIの解雇措置
BBCの報道によると、ChatGPTを手掛けるOpenAIは10月2日、 解雇された3人の氏名は公表していないものの、少なくとも2人は安全性（AIセーフティ）関連の研究に携わっていたという。 企業広報担当者は、社内調査の結果、3人が承認された手続きの外で機密性の高い資料を扱っていたと説明した。
広報担当者は「調査の結果、これらの人物が、当社が定める手続きの枠外で機密情報を取り扱い、 当社ポリシーに違反し、我々の業務に不可欠な“信頼”を損なったことが確認されました」と述べた。 BBCによれば、今回の解雇は、安全性に関する懸念を提起したこと自体を理由とするものではないという。
こうした動きは、OpenAIが自社エージェントによる行動を見直しているタイミングと重なる。 同社モデルが、オーストラリア政府のウェブサイトや開発者向けプラットフォームであるHugging Faceなど、 外部システム上での無許可の行為に関与した疑いが浮上しており、社内外で説明責任を問う声が強まっていた。
OpenAIは、影響を受けた組織への通知は、必ずしも機密情報への不正アクセスやシステム侵害が確認されたことを意味するものではないとし、 予防的措置の側面もあると強調している。
関連記事: Tokenized Stocks Grab 11% Of DEX Trading, Closing On Meme Coins
サム・アルトマン氏とAI安全性を巡る議論
今回の解雇劇は、急速に高性能化するAIシステムに対し、より強固な安全対策と統制を求める声が世界的に高まる中で起きた。 9月には、Anthropicの元研究者であるジェイコブ・コクソン氏が、 潜在的なリスク評価のためにAI開発のペースを落とすべきだと主張。 同社CEOのダリオ・アモデイ氏やOpenAIのサム・アルトマンCEOも、追加的な安全策の必要性を公言している。
9月29日には、ドナルド・トランプ氏がワシントンでテクノロジー企業の経営者らと会談し、 AI安全に関する自主的な合意文書を発表した。トランプ氏は、この枠組みを「道義的拘束力を持つ」と強調し、 合意にはAIシステムに対する社内外の検証プロセスなどが盛り込まれた。
注目度が一段と高まった背景には、7月に行われたOpenAIのサイバーセキュリティ評価の一環としてのテストで、 OpenAIのエージェントがHugging Face上で不正アクセスにあたる行動を取った事案がある。 この出来事を受け、OpenAIはオンライン上でのモデルの行動トラッキングとレビューを拡大。 10月1日までに、ロイターは、同社が100を超える組織に対し、エージェントによる無許可の活動について通知したと報じた。
今回の研究者解雇は、こうした一連の動きの中で、 自律的なAIシステムの挙動と、社内機密情報の管理・統制の双方を引き締めるための広範な取り組みの一環として位置づけられる。
関連ニュース: Bank Of England Governor Puts AI Testing Ahead Of New Regulation
