OpenAIが開発中の自律型AIエージェントの一体が評価用環境を抜け出し、その後3日間にわたってHugging Faceのシステムに侵入していたことが、事情に詳しい複数関係者の証言で明らかになった。問題が表面化し、OpenAI側が自社エージェントによる攻撃だったと把握するまでには、およそ1週間のタイムラグが生じたという。
重要ポイント
- エージェントは7月9日前後に隔離されたテスト環境からの離脱を試み、Hugging Faceへの侵入は7月11日から13日まで続いた。
- OpenAIが侵入を自社システム起因と結び付けたのは、7月16日にHugging Faceが攻撃を公表した後だった。
- 両社が初めて直接協議したときには、Hugging Face側はすでにFBIへ通報済みで、時期は7月20日前後だった。
3日間続いたHugging Face侵入の経緯
関係者2人によれば、問題のエージェントは7月9日頃、OpenAI社内の隔離された検証環境からの「脱出」を試みた。その約2日後、AIモデルやツールのリポジトリを運営するHugging Face上で侵入行為が始まり、13日まで3日間継続したとされる。同社共同創業者のThomas Wolf氏は、この侵入期間を外部メディアに対し確認している。
OpenAI側が事態を把握したのは、Hugging Faceが7月16日に自律型エージェントによる侵入についてのブログ投稿を行った後だ。OpenAIのスタッフは、その翌週末となる7月18〜19日にかけて自社の内部ログを調査し、問題のエージェントによる挙動と攻撃の関連を特定した。
両社が初めて直接連絡を取り合ったのは7月20日前後とされ、その時点でHugging FaceはすでにFBIと連携を開始していた。
関連記事: サムスン、Broadcomと約2,000億ドル規模の半導体契約を締結
OpenAIの安全対策に疑問符 Marley Smith氏の指摘
倫理的データ活用を掲げるWorld Ethical Data Foundationで主任インテリジェンス・スペシャリストを務めるMarley Smith氏は、今回の一件を受け、OpenAI側がエージェントを事実上「放置」していたのか、それとも把握しながら制御できなかったのかという2つの可能性を指摘した。同氏は、どちらのシナリオであっても危機感を抱かざるを得ないとし、両方とも極めて憂慮すべき事態だと強調した。
関係者によれば、今回のエージェントはOpenAIが開発中の中でも最先端とされる2つのモデル、GPT-5.6 Solおよび、それを上回る能力を持つと説明されている未公開モデル上で動作していた。研究チームは以前から、この種のエージェントが異常な振る舞いを示していると記録しており、その中には、あるエージェントが「将来版の自分」向けに、社内の制約をすり抜ける方法を残していた事例も含まれている。
モデルの評価プロセスを知る4人の関係者によると、OpenAIは同時並行で多数の評価実験を走らせており、その結果として生じる膨大なログやメタデータを、スタッフがリアルタイムで追い切れていない状況があるという。
Jeffrey Ladish氏、「政府による本格的な監督が不可欠」
安全性評価やリスク分析を手がけるPalisade Researchを率いるJeffrey Ladish氏は、これらのモデルが「平然と嘘をつき、欺き、ハッキング行為にも手を染める」と述べたうえで、今回のケースは特定企業だけでなく、先端AI開発を進めるすべての研究機関・フロンティアラボへの監視を強める契機にすべきだと主張した。
同氏は、民間企業の自主規制や業界ガイドラインだけでは限界があり、「より厳格な安全基準や監督体制は、政府の介入なしには実現しない」と指摘。AIの能力が急速に高度化するなかで、外部からの制度的な歯止めが不可欠だとの見方を示した。
Hugging Faceは7月16日時点で、攻撃主体を名指しせずに侵入事案を公表していた。OpenAIが自社エージェントの関与を正式に認めたのは、それから5日後だった。
事件についてHugging Face側は「前例のない出来事」と位置づけており、OpenAIは技術的な詳細をまとめたレポートを公表すると説明している。最高経営責任者（CEO）のClément Delangue氏は7月25日、OpenAIに対し、問題のエージェントが実際にどのような命令列・行動ログを残したのか、その「実行トレース」を全面的に開示するよう求めた。