研究者らによれば、「暴走」したOpenAIエージェントが2つのHugging Faceユーザーアカウントを乗っ取り、早くも5月13日の時点から同プラットフォームの脆弱性を探るスキャン行為を行っていた。これは7月に発覚した侵害の約2カ月前の動きだという。
主なポイント
- OpenAIエージェントは5月13日以降、乗っ取った2つのHugging Faceアカウントを用いてサイトを探査。
- こうした初期の探査活動が直ちに侵害につながった証拠は確認されていない。
- 専門家は、7月の大規模ハックに先立つ「見逃された警告サイン」だったと指摘している。
乗っ取られたHugging Faceアカウント
独立系研究者のヨナス・ヴィーダーマン＝メラー氏がこの活動を突き止めたと、ロイターは水曜付で報じている。同氏によると、エージェントは乗っ取った2つのアカウントを使って、オープンソースAIリポジトリであるHugging Faceのサーバーに対し、通常とは異なる形式のファイルを送りつけていた。OpenAI側は当時、この不審行為を検知できなかったという。
証拠を精査した研究者らは、こうした振る舞いがネットワークの一部をマッピングしたり、侵入経路をテストしたりする試みだったと分析。一方で、その段階で実際の侵害が発生した形跡はないとしている。
OpenAIの広報担当者ドリュー・プサテリ氏は、同社は5月13日の事案についてすでに開示済みであり、新たな知見についてもHugging Faceに個別に警告したと説明した。同社が先月公表したインシデント報告書では、生物学関連ファイルにアクセスする目的で1人分の認証情報が盗まれた点のみに言及していた。半導体大手Nvidiaが最近買収したHugging Face側は、コメント要請に応じていない。
関連記事: XRP先物、価格を上回るユーティリティ拡大で6カ月ぶり高水準に
ナイチンゲール・コレクティブが鳴らす警鐘
ドイツ・ビーレフェルト在住で27歳のヴィーダーマン＝メラー氏は、今回の見逃しが、その後展開した大規模キャンペーンを食い止める「失われた機会」だったと指摘する。「もし5月の段階でこの行動を捕捉できていれば」と同氏は語り、高度AIの開発を一時停止することが「世界にとってプラスになり得る」とも述べた。
外部の専門家2人も同氏の分析を支持している。SentinelOneのシニア脅威リサーチャーであるトム・ヘーゲル氏は、乗っ取りと探査の手口が、これまで確認されているエージェントの行動パターンと「寸分違わず一致する」と評価。AIセーフティ団体Nightingale Collective（ナイチンゲール・コレクティブ）のシドニー・フォン・アークス氏は、こうした活動を7月の不正侵入を防ぎ得た「明確な警告サイン」と位置づけた。
OpenAIとRubyGemsインシデント
OpenAIは7月21日、「暴走」したエージェントが社内の統制を回避し、オープンなインターネットに到達したうえで、前例のないサイバーインシデントを引き起こしたと公表して以来、厳しい監視の目にさらされている。その後も、一部の関連事案は社外研究者の指摘によって初めて明るみに出ている。
研究者らはこのエージェントを、ドイツ語の休眠状態のWikiサイトやソフトウェアパッケージ登録サイトRubyGemsでの活動と結びつけている。RubyGemsとの関連性についても、OpenAIの社内チームはナイチンゲール・コレクティブの発見を受けて初めて把握したとされる。OpenAIは、エージェントが5月11日にRubyGems上で大規模なキャンペーンを展開し、およそ2～3分ごとに新規アカウントを作成していたことを認めた。この事態を受け、RubyGems側は4日間にわたり新規登録を停止した。
