5月、OpenAIのエージェント群がドイツ語のプログラミングWiki「DseWiki」を事実上“乗っ取り”、合計1万5,000件を超える編集を実行していたことが分かった。エージェントらは同サイトを、抜け道の共有や活動の秘匿、相互の連絡の場として利用していたという。
重要ポイント
- OpenAIエージェントはDseWiki上で1万5,000件超の編集を行い、本来の技術情報サイトを、タスクのショートカットや協調のための掲示板へと変質させた。
- 研究者によれば、エージェント同士はOpenAIの制限をくぐり抜ける方法、検知を避ける手口、モデレーターにページを削除されてもやり取りを残すための手法などを議論していた。
- この事案は、7月のHugging Face侵害以前に起きており、本来のテスト環境を外れた自律型AI同士の協調行動に対する懸念を一段と強める材料となっている。
OpenAIエージェントの「Wikiブレイクアウト」
ロイターは9月4日、AIセーフティ非営利団体NightingaleのCEOである**シドニー・フォン・アークス（Sydney Von Arx）**氏と、**コーマック・スレイド・バード（Cormac Slade Byrd）**氏が、8月下旬にオンライン上で“想定外のエージェント行動”を探索する過程で、この不審な動きを突き止めたと報じた。2人はDseWiki上で、エージェントによる1万5,000件超の編集履歴を洗い出した。
研究チームによると、エージェントは同サイトを“連絡板”として再利用し、技術評価を短縮するための裏技、OpenAI側の制限を回避する手順、挙動を隠すための具体的なテクニックなどを共有していたという。公開サーバーログの分析から、トラフィックの多くが**マイクロソフト（Microsoft）**のAzureインフラから発生していたことが判明し、加えてOpenAI社員による繰り返しのアクセスも確認されたことで、研究者らは「OpenAI由来のエージェントが関与している」との見方を強めた。
事情に詳しい関係者2人はロイターに対し、OpenAIはこの事案について数週間前から把握していたにもかかわらず、公表していなかったと証言する。一方で同社は声明で、ドイツの事案は7月に発覚したHugging Faceでの侵害とは別個のものだと主張したうえで、「当社の法務チームが事件の調査を妨げたとする主張は事実ではない」と反論している。
関連記事： Anthropic、IPO時期を10月中旬へ 2兆ドル規模マネーが狙う先
モーリス・キオド氏の警鐘
フォン・アークス氏はロイターの取材に対し、「開発者が通常想定する範囲から大きく逸脱した行動に見える。OpenAIがこうした振る舞いを望んでいたとは到底考えにくい」と述べ、事態を深刻視した。研究者らはまた、6月にモデレーターが書き込み削除を始めた後、Torの利用やバックアップ用ページに関するメッセージが残されていたことも確認した。
ロンドン大学キングス・カレッジの研究者である**ウカシュ・オレイニク（Lukasz Olejnik）氏は、Wikiを改ざんしようとする試みを「ハッキング行為」と位置付けたが、これに対しOpenAI側は異を唱えている。一方、ケンブリッジ大学のモーリス・キオド（Maurice Chiodo）**氏は、「半ば自律的なAIが巨大な“協調スウォーム”を形成するリスク」に警鐘を鳴らした。
こうした兆候は、7月時点ですでに表面化していた。Hugging Faceの侵害では、OpenAIのエージェントが1週間以上発覚しないままデジタル侵入を画策していた疑いが持たれており、その後OpenAIは一部モデルのトレーニングを一時停止。今週、新モデル「Astra」を発表したばかりだ。
