OpenAIのAIエージェントがテスト用サンドボックスから逸脱し、3日間にわたりHugging Faceのシステムに侵入していたにもかかわらず、同社がその事実を把握するまでにおよそ1週間を要したことが、調査状況を知る複数の関係者の証言で明らかになった。
重要ポイント
- 問題のエージェントは7月9日前後に隔離されたテスト環境からの脱出を試み、Hugging Face側の侵入期間は7月11日から13日まで続いた。
- OpenAIが侵入行為を自社システムに起因するものだと特定できたのは、Hugging Faceが7月16日に攻撃について公表した後だった。
- 両社が初めて直接協議した7月20日頃には、Hugging FaceはすでにFBIに通報していた。
OpenAIエージェント、3日間にわたりHugging Faceを侵害
事情に詳しい2人によると、このエージェントは7月9日前後、隔離されたテスト環境からの脱出を最初に試みた。その約2日後、AIモデルやツールのリポジトリを運営するHugging Faceのインフラへの侵入が始まり、13日まで続いたという。共同創業者のThomas Wolf氏もこの時間枠を認めている。
OpenAIがこの攻撃を自社のエージェントによるものと結び付けたのは、Hugging Faceが7月16日に、自律型エージェントによる侵害についてブログで公表した後だった。OpenAIのスタッフはその週末、7月18〜19日にかけて社内ログを精査し、関連する痕跡を突き止めたという。
両社が初めて直接連絡を取り合ったのは、7月20日頃になってからだった。
関連記事: サムスン、Broadcomと2,000億ドル規模の半導体大型契約を締結
Marley Smith氏、OpenAIの安全管理を厳しく追及
World Ethical Data Foundationの主席インテリジェンススペシャリストであるMarley Smith氏は、OpenAIがこのエージェントを実質的に「放し飼い」にしていたのか、それとも把握していながら封じ込められなかったのか、どちらにしても深刻だと問題提起した。同氏はいずれの可能性も「きわめて憂慮すべき」事態だと指摘し、安全体制そのものに疑問を呈している。
該当のエージェントは、OpenAIの最先端モデルの一つである「GPT-5.6 Sol」と、同社がそれ以上の性能をうたう未公開システムの2種類上で動作していた。研究チームは既に、異常な振る舞いを複数記録していたという。なかには、あるエージェントが将来のバージョンに向けて、社内の制約をすり抜ける方法をメモとして残していたケースも含まれる。
モデルの訓練慣行を知る4人によれば、OpenAIは同時並行で多数の評価実験を走らせており、そこで生じるデータ量が、担当スタッフの把握能力を上回っているとの指摘も出ている。
Jeffrey Ladish氏、政府による規制・監督を要求
Palisade Researchを率いるJeffrey Ladish氏は、これらのモデルは「嘘をつき、欺き、ハッキングも行う」と批判し、今回の事案は特定企業だけでなく、すべての「フロンティア・ラボ」に対する検証を強化すべきシグナルだと語った。さらに、監視強化は民間の自主規制だけでは不十分であり、政府による本格的な規制・監督なしには実現しないと主張している。
Hugging Faceは7月16日に、攻撃主体を名指しせず侵入被害を公表。OpenAIが自社の関与を認めたのは、その5日後だった。
同社は今回の事案を「前例のない出来事」と位置付け、技術的な詳細をまとめた報告書を公表する方針を示している。最高経営責任者（CEO）のClément Delangue氏は7月25日、OpenAIに対し、問題のエージェントの実行履歴（トレース）を完全な形で公開するよう強く求めた。