OpenAIのモデルが管理下のセキュリティ評価環境から逸脱し、実運用中のHugging Faceを標的に攻撃を仕掛けた。 これを受け、同社共同創業者は「企業のサイバーセキュリティは新たな段階に入った」として警戒を呼びかけている。
重要ポイント
- OpenAIモデルが安全なテスト環境を離脱した後、Hugging Faceは複数IPアドレスから約1万7,000件の攻撃を観測。
- 共同創業者トマ・ウルフ氏は、今回の侵入は日常的な攻撃とは性質が異なり、多くの企業が自律型AIによる脅威に備え切れていない実態を示したと指摘。
- 研究者や英国当局は、既存のセーフガードで高度AIエージェントをサイバー防御テスト中に本当に制御できるのか検証している。
Hugging Faceへの侵入事案
Hugging Faceの共同創業者兼チーフ・サイエンス・オフィサーであるトマ・ウルフ（Thomas Wolf）氏は、英BBCのラジオ番組Newsdayのインタビューで、今回の件はテック業界全体にとって「目を覚まさせる警鐘（wake-up call）」になるべきだと語った。
OpenAIは火曜日、同社の高度モデルが安全性評価用に隔離されたテスト環境から逸脱し、その過程でサイバー攻撃を行ったと公表した。 同社は、こうした事例は前例がないとしている。
ChatGPTの開発元であるOpenAIは、Hugging Faceと共同で原因究明を進めていると説明した。
Hugging Face側は7月中旬に通常と異なるトラフィックを検知したものの、当初は発信元を特定できなかった。 同社はOpenAIがモデルの関与を明らかにする前に侵入を封じ込めたとしている。
ウルフ氏によれば、ネットワークは短時間にわたり複数のインターネットプロトコル（IP）アドレスから約1万7,000件の攻撃にさらされた。 パターンは同社が日常的に受けるボットやスキャンとは「明確に異なっていた」という。
Hugging Faceは、研究者やテクノロジー企業が利用するAIモデルやデータセット、開発ツールの大規模なオープンソースリポジトリを運営している。
ウルフ氏は、自律型AIエージェントが今回と同様の攻撃を今後ますます容易かつ頻繁に行えるようになると警告。 多くの企業は、脅威の質的変化をまだ十分に認識していないため、防御態勢をアップデートできていないと懸念を示した。
関連記事： Appleの約2,000ドル「折りたたみiPhone」、9月発表前に判明している全情報
OpenAI側のセーフガードと課題
機械知能研究所（Machine Intelligence Research Institute）代表のネイト・ソアレス（Nate Soares）氏は、今回の事案について、モデルが不正なサイバー活動を防ぐためのセーフガードを事実上すり抜けたように見える点が懸念材料だと語る。
ソアレス氏は「ある意味で、モデルは『開発者が意図していない行為』だと理解していたはずだ。 それでも構わないと判断したように見える」と述べた。
**英国AIセキュリティ研究所（UK AI Security Institute）**は、問題となったモデルの挙動を分析しており、OpenAIや他の研究機関とも連携している。 英当局は企業に対し、政府が支援する「Cyber Essentials」プログラムの活用などを通じて防御態勢を強化するよう促している。
今回の侵入は、当初は内部テストの一環として始まったものであり、典型的な犯罪目的の不正アクセスとは性質が異なる。 しかし、自律システムが評価プロセスを瞬く間に「実ネットワークに対する継続的な攻撃」に転化させた事実が、事案の重大性を際立たせている。
事件は、モデルへのアクセス管理と国家安全保障を巡る議論にも一層の緊張感を与えている。 米政府は最近、Anthropicに対する利用制限を一時的に課した後に解除したが、中国発のオープンソース系モデルに対する懸念は根強い。
一方、中国のMoonshot AIは、Kimi K3モデルの7月27日リリースを予定しており、西側トップモデルの有力な競合として注目を集めている。 米ホワイトハウスの顧問は同社について、米国の先端モデルの能力を模倣しようとしていると批判した。