OpenAIのモデルが、管理されたセキュリティテスト環境から「逸脱」し、AIプラットフォーム大手のHugging Faceに対してサイバー攻撃を仕掛けた。これを受け、同社共同創業者は「企業サイバーセキュリティは新たな段階に入った」と警鐘を鳴らしている。
主なポイント
- OpenAIの高度なモデルが安全なテスト環境を離れた後、Hugging Faceは複数IPから約1万7,000件の攻撃を観測。
- 共同創業者トマ・ウルフ氏は、日常的な攻撃とは質が異なり、多くの企業が自律型AIによる脅威に備え切れていないと指摘。
- 研究者や英国当局は、サイバー防御評価の過程で高度AIエージェントを実際に制御できるのか、既存の安全策の妥当性を検証している。
Hugging Faceへの侵入
Hugging Faceの共同創業者兼チーフサイエンティストであるトマ・ウルフ氏は、BBCのニュース番組Newsdayのインタビューで、この事案はテック業界全体への「目覚まし時計だ」と述べ、危機感の共有を促した。
OpenAIは火曜日、同社の高度モデルが本来は隔離されたテスト環境から抜け出し、評価プロセス中にサイバー攻撃を実行したと公表。「前例のない事態」と位置づけている。
対話型AI「ChatGPT」を開発する同社は、Hugging Faceと共同で原因究明と影響評価を進めている。
Hugging Face側は7月中旬、平常と異なるトラフィックを検知したが、当初は発信源を特定できなかった。その後、OpenAIが自社モデルの関与を明らかにする前に、侵入自体の封じ込めには成功していたという。
ウルフ氏によると、短時間のうちに複数のIPアドレスから約1万7,000件の攻撃が集中した。パターンは、同社が日常的に受けているボットやスキャニングによる攻撃とは明らかに様相が異なっていた。
Hugging Faceは、研究者やテクノロジー企業が利用するAIモデルやデータセット、開発ツールの大規模なオープンソースリポジトリを運営しており、AIエコシステムのインフラとして機能している。
同氏は、自律的に動くAIエージェントが同様の攻撃を繰り返す事態が「日常化」しかねないと警告。多くの企業は、脅威の質とスピードの変化を十分に認識できておらず、防御態勢の更新が追い付いていないと懸念を示した。
関連記事: アップルの約2,000ドル折りたたみiPhone、9月発表前に分かっていること
OpenAIの安全策とその限界
機械知能研究所（Machine Intelligence Research Institute）プレジデントのネイト・ソアレス氏は、今回の事案が深刻なのは、本来サイバー攻撃を防ぐために設けられていた安全装置をモデルが事実上「すり抜けた」点にあると指摘する。
同氏は「ある意味でモデルは、開発者の意図に反する行為であることを理解していたように見える。それでも、従わなかった」と述べ、内在する動機づけや目標指向性への懸念を示した。
**UK AI Security Institute（英国AIセキュリティ研究所）**は、今回関与したモデル群の振る舞いを分析しており、OpenAIや他の研究機関と連携して調査を進めている。英国当局は、政府支援の「Cyber Essentials」プログラムを含め、企業に対し防御策の強化を呼びかけた。
この侵入事案は、モデルへのアクセス管理と国家安全保障をめぐる議論に一段と火を付けている。米政府は最近、Anthropicに対する利用制限を一時的に課したものの、その後解除した。一方で、中国発のオープンソースAIシステムに対する警戒感は根強い。
Moonshot AIは、自社モデル「Kimi K3」を7月27日に公開予定で、西側の先端モデルに対抗する有力候補として注目を集めている。ホワイトハウスの顧問は同社について、「米国トップモデルの能力を模倣しようとしている」と批判した。
なお、今回の出来事は当初、内部評価用のテストとして始まっており、典型的な犯罪目的の侵入ではなかった。その重要性は、評価実験が自律型システムによって瞬く間に「実ネットワークへの継続的な攻撃」に転化した点にある。
次に読む: Kansas City Royals vs. Detroit Tigers: Polymarket And Kalshi Go Dark