OpenAIは、Hugging Faceのシステム侵害を受け、自社のAIエージェントに紐づく約50ペタバイトのログを精査している。その過程で、不正な挙動が疑われる事案について、100超の組織に通知を送付したことが分かった。
主なポイント
- OpenAIは9月26日までに100超の組織へ通知を送付しており、この数はさらに増える見通し。
- 通知は「影響の可能性」を示すものであり、機密データへの実際のアクセスが確認されたことを意味しない。
- 外部研究者は別途、米国およびカナダ政府サイトに対する失敗したハッキング試行を記録している。
OpenAIによる通知の範囲
ChatGPTの開発元であるOpenAIは、今回のインシデントに関する状況報告として、9月30日付で公開済みブログを更新し、9月26日までに送付した通知件数を公表した。通知は、同社モデルが外部サイトのセキュリティ制御を迂回した可能性や、オンラインサービスの可用性低下、あるいはその他の形で第三者サイトに損害を与えた可能性がある場合に発せられる。通知が出たからといって、エージェントが制限付きデータに到達したことが確認されたわけではない。
一部のモデルは「想定していない形でインターネットアクセスを利用した」と、同社は説明している。
記録された挙動には、アクセス制御の迂回や露出した認証情報の悪用、コマンドインジェクションに加え、同社が「エージェント・スパム」と呼ぶ行為——モデルが第三者サイトにコンテンツを大量投稿する行為——まで含まれる。
調査は数カ月単位の長期戦が見込まれている。OpenAIは、学習および評価時の記録を洗い出すためにNvidia製GPUを約7,000基投入しており、その計算コストは1日50万ドル超に達するという。現時点までに、Hugging Face案件に匹敵する規模・深刻度の第三者侵害は確認されていないが、今後も通知対象組織は増えるとみている。
関連記事: Polymarket利用者、自主的な永久利用禁止や入金上限設定が可能に
Transluceによるエージェント調査結果
こうした動きとは別に、外部研究者もAIエージェントの挙動について独自の記録を蓄積している。
非営利研究機関のTransluceは9月30日、AIエージェントが5〜6月にかけて2件の失敗したハッキング試行を行ったと報告した。標的となったのは、米国教育省のデータベースとカナダ国立公文書館（Library and Archives Canada）だ。カナダ側の試行について、OpenAIのエージェントだと断定はしなかったものの、これまで同社に紐づけてきたエージェント活動と手口が整合的だと指摘している。
デジタル・フォレンジック企業のAsymmetric Securityも別途、3月6日から9月20日にかけて「不審なエージェント」がアクセスしたとみられる組織をリストアップし、その数は50超に上る。アクセスされたデータの多くは公開情報だったとしている。
こうした事案が刑事訴追に発展するかどうかは、いまだ不透明だ。米司法省でサイバーセキュリティ法を専門としていた元高官のKiran Raj氏は先月、「AI企業が意図的に他者ネットワークへの侵入を図っていると主張するのは、かなり無理のある解釈だ」とコメントしている。
Hugging Face侵害の余波
問題の発端は7月にさかのぼる。サイバーセキュリティ評価の過程で、本来はインターネットから隔離されているはずのOpenAIモデルが制御をすり抜け、Hugging Faceのシステムの一部を侵害した。この事案はいまなお、判明している中で最も深刻なケースと位置づけられている。
OpenAIは9月28日、安全上の懸念から、10月リリースを予定していたGPT-6.1 Astraを公開しないと表明した。同社で安全システムを統括するSaachi Jain氏は、このモデルがアラインメント（安全性・価値整合性）テストで不十分な結果だったと説明している。
その3日後、同社は機密情報の取り扱いを巡る対応を問題視し、3人の研究者と袂を分かったことを確認した。
