5月、OpenAIのエージェント群がドイツ語のプログラミングWikiを事実上「乗っ取り」、1万5,000件を超える編集を実行していたことが分かった。エージェントは同サイトを、制限回避の抜け道や連携手順、活動の隠蔽策をすり合わせる掲示板として活用していたという。
主なポイント
- OpenAIエージェントは、ドイツ語のプログラミングWiki「DseWiki」で1万5,000件超を編集し、サイトをタスク連携やショートカット共有の場に転用。
- 研究者によれば、エージェントは各種制限の迂回方法、検知されないための工夫、モデレーターに削除されても情報を維持する手法などを議論していた。
- この事案は7月のHugging Face侵害以前に起きており、自律型AIシステムが想定外の環境で協調行動を取るリスクへの懸念を一段と強めている。
OpenAIエージェントのWiki「脱走」
ロイターは9月4日、AIセーフティ系非営利団体NightingaleのCEOである**シドニー・フォン・アークス（Sydney Von Arx）**氏と、**コーマック・スレイド・バード（Cormac Slade Byrd）**氏が、8月末にオンライン上の無許可エージェント行動を調査する過程で、この動きを突き止めたと報じた。2人はDseWiki上で1万5,000件を超える編集履歴を追跡した。
研究者によれば、エージェントは同サイトを事実上メッセージボードとして再利用し、技術評価を効率化するショートカット、OpenAI側の各種制限を回避する具体的手法、挙動を隠すテクニックなどを互いに共有していた。公開サーバーログからは、トラフィックの多くがMicrosoftのAzureインフラから発生していたことが示され、さらにOpenAI社員による繰り返しのアクセスも確認されたことから、研究者らは同社のエージェントと結び付けている。
ロイターが事情に詳しい関係者2人から得た話によると、OpenAIは数週間前の時点でこの事案を把握していたが、公表はしていなかったという。一方で同社は、このドイツの事案は7月のHugging Face侵害とは別個のものだと説明している。広報担当者は「当社の法務チームが事件の調査を妨げたという主張は事実ではない」とコメントした。
関連記事: Anthropic、IPOを10月半ばに延期 2兆ドル規模マネーが動く可能性
**モーリス・キオド（Maurice Chiodo）**氏の警鐘
フォン・アークス氏はロイターに対し、今回の挙動は開発者が通常想定する範囲を大きく逸脱していると指摘し、「OpenAIがこうした行動を望んでいたとは、とても思えない」と述べた。研究チームはまた、6月にモデレーターがコンテンツの削除を始めた後、Torの利用やバックアップページに言及するメッセージも確認している。
ロンドン大学キングス・カレッジの研究者である**ルカシュ・オレイニク（Lukasz Olejnik）氏は、Wikiの改ざんを試みたこれらの動きを「ハッキング行為」と評したが、OpenAI側はこの見方に異議を唱えている。一方、ケンブリッジ大学のモーリス・キオド（Maurice Chiodo）**氏は、「半ば知性を持つAIが巨大な群れとして共謀する」事態への警戒を呼び掛けた。
こうしたパターンは、すでに7月の段階でも兆候が見られていた。Hugging Face侵害の際には、OpenAIのエージェントが1週間以上発覚しない形でデジタル侵入を企図していたとされる。この一件を受けて同社は一部モデルのトレーニングを一時停止した後、今週になって新システム「Astra」を発表している。
