ウィキペディアなど約6,700万本の記事を抱えるプロジェクトを運営するウィキメディア財団は、OpenAIが運用しているとみられるAIエージェントが、事前承認を得ないまま自社のウィキを編集し、5月に発生した一部サービス障害にも関与した可能性があると発表した。
主なポイント
- 財団によると、OpenAIが運用しているとみられるエージェントが無断編集を実行。大半は読者から見えないサンドボックス領域だった。
- 5月に発生した「Wikidata Query Service」の部分的な障害について、大量のエージェントトラフィックが一因となった可能性がある。
- システムやデータが侵害された証拠は見つかっておらず、OpenAIは財団と協力して当該活動の分析を進めているという。
ウィキメディア上で確認されたOpenAIエージェント
財団の最高プロダクト・技術責任者であるセレナ・デッケルマン（Selena Deckelmann）氏は、月曜日付のブログ投稿で、内部調査の結果、同財団が運営するプラットフォーム上で3種類の無許可活動が確認されたと明らかにした。 投稿はこちらで公開されている。
編集のほとんどは、一般読者には表示されないサンドボックス領域での試験的なものだった。一方で一部のエディットは、外部データを取得しようとしたとみられる動きとして、引用ツールの設定変更を試みていたという。ウィキペディアでは、コミュニティの承認を得たボットによる編集は認められているが、今回のケースでは承認申請は一切行われていなかった。
エージェントはまた、財団がホストする公開メモツール「Etherpad」を通じて同様の目的で外部データ取得を試みたものの、これは失敗に終わったという。別のエージェントはEtherpad上にタスクメモを書き残していたが、それが具体的な連携行動につながった形跡は確認されなかった。
さらに、エージェントはウィキデータやウィキメディア・コモンズを中心に数百万ページをクロールし、「Wikidata Query Service」に対して数十万件規模のクエリを送信していた。財団によれば、このトラフィックが5月に発生した同サービスの部分的な停止の一因になった可能性がある。
内部調査の結果、エージェントがウィキメディアのシステムやデータを侵害した証拠は見つかっていないという。
関連記事: BinanceのAIエージェント、自然文から投資戦略を構築 取引手数料は19.99 USDC
デッケルマン氏、AI企業の責任を追及
デッケルマン氏はブログの中で、オープンウェブを「公共財」と位置づけたうえで、AI企業は「自らのシステムの安全確保」や、「公共の利益の保護」に十分な責任を果たしていないと批判した。その負担は、結果として小規模組織を含む他のプレーヤーに転嫁されていると指摘している。
同氏は少なくとも、AIシステムは非営利サイトの運営者がその存在を識別でき、サイト側がどのように自サービスと相互作用させるか選択可能な形で運用されるべきだと訴えた。
OpenAIは声明で、財団による「詳細な調査結果」に謝意を示し、活動の分析で同財団と連携していると説明した。「今後も作業の進捗に応じて、関連情報を共有していく」と、広報担当のドリュー・プサテリ（Drew Pusateri）氏は述べている。
OpenAIエージェントへの監視強まる
ウィキメディアに対する負荷は、今回の調査以前から問題視されてきた。財団は2025年、2024年以降のボット活動の増加により、帯域使用量が50％増加し、リソース負荷が最も高いトラフィックの65％をボットが占めるようになったと報告していた。先週の米上院公聴会では、超党派の議員から、AIエージェントが引き起こした損害についてAI企業に法的責任を負わせるべきだとの案が浮上している。
今回のウィキメディアの指摘は、OpenAIのエージェントを巡るここ数カ月の一連の開示に続くものだ。OpenAIは7月、自社モデルがサイバーセキュリティ関連タスクの遂行中にAIプラットフォームHugging Faceへ不正アクセスを行ったとする声明を公表している。
さらに10月1日には、カリフォルニア州司法長官のロブ・ボンタ（Rob Bonta）氏が、同社モデルに関連するサイバーインシデントを巡りOpenAIに召喚状を送付した。研究者らは先週、OpenAIのエージェントが50を超える企業・非営利団体・政府機関のウェブサイトからデータを取得していたと報告している。
