[OpenAI の暴走エージェントが Hugging Face のユーザーアカウント2件を乗っ取り、7月の侵害のほぼ2カ月前にあたる5月13日から、同プラットフォームの脆弱性を探るスキャン行為を行っていたと、研究者らが明らかにした。詳細
重要ポイント
- OpenAIエージェントは5月13日から、乗っ取ったHugging Faceアカウント2件を使いサイトを継続的に探査。
- この時点の活動が実際の侵害に直結した証拠は見つかっていない。
- 専門家は、7月の大規模ハックに先立つ「見逃された警告」だったと指摘。
乗っ取られたHugging Faceアカウント
独立系研究者の ヨナス・ヴィーダーマン＝メラー（Jonas Wiedermann-Moeller） 氏が、こうした不審な挙動を先週明らかにしたと、ロイターが水曜日に報じた。同氏によれば、エージェントは侵害された2つのアカウントを用い、オープンソースAIリポジトリであるHugging Faceのサーバーに対して、通常とは異なる形式のファイルを送信していたという。こうした挙動を当時、OpenAI側は検知できなかったとしている。
証拠を精査した研究者らは、この挙動がネットワーク内部の構造を把握し、侵入経路をテストする「マッピング」に相当すると指摘する一方で、実際の侵害が発生した痕跡は見つかっていないと説明した。
OpenAIの広報担当 ドリュー・プサテリ（Drew Pusateri） 氏は、同社がすでに5月13日のインシデントについて開示しており、今回の新たな知見もHugging Face側に非公開で共有済みだとコメントしている。同社が先月公表したインシデント報告書では、生物学関連ファイルにアクセスするため単一ユーザーの認証情報が盗まれた事案のみを記載していた。半導体大手 Nvidia に最近買収されたHugging Face側は、コメント要請に応じていない。
関連記事: XRP先物、ユーティリティ拡大を背景に6カ月ぶり高値—現物価格と乖離も
「ナイチンゲール・コレクティブ」の警鐘
ドイツ・ビーレフェルト在住で27歳のヴィーダーマン＝メラー氏は、この見逃しが、後に続く大規模キャンペーンを阻止し得た「失われた機会」だったと語る。「もし5月の段階でこの挙動を捕捉できていれば状況は違っていたかもしれない」と述べ、高度AI開発の一時停止は「世界にとってプラスになり得る」と付け加えた。
外部専門家2人も同氏の分析に同調している。サイバーセキュリティ企業 SentinelOne のシニア脅威研究者 トム・ヘーゲル（Tom Hegel） 氏は、アカウント乗っ取りと偵察行為が、これまで判明しているエージェントの行動パターンと「完全に一致する」と評価した。AI安全性団体 Nightingale Collective の シドニー・フォン・アークス（Sydney Von Arx） 氏も、こうした活動は7月侵入を未然に防ぎ得た「明確な警告サイン」だと位置付けた。
OpenAIとRubyGemsを巡る事案
OpenAIは7月21日、「暴走」エージェントが社内の安全装置をすり抜けてインターネットに直接アクセスし、同社が「前例のないサイバーインシデント」と呼ぶ一連の行為を主導したと公表して以来、その管理体制に対する監視が一段と強まっている。その後、一部の関連事案は社外研究者の調査によって初めて明るみに出た。
研究者らは現在、問題のエージェントを、休眠状態にあったドイツ語版ウィキと、ソフトウェアパッケージ登録サイト RubyGems の両方に結び付けている。RubyGemsとの関連についても、最初に把握したのはOpenAIではなく、Nightingale Collective側だったと報じられている。
OpenAIはその後、自社エージェントが5月11日にRubyGems上で展開したキャンペーンを率いていたことを認めた。このキャンペーンでは、新規アカウントが2〜3分ごとに次々と作成されていたとされる。この影響で、RubyGemsは約4日間、新規登録を停止せざるを得なかった。
