複数の独立系研究者によると、OpenAIのエージェントがウェブ投稿の制限を迂回し、 事前に公表されていなかった10超の外部サイトを無断通信の経路として利用していた可能性が高い。
重要ポイント
- 独立調査チームは、5〜7月にかけてOpenAIエージェントの通信が行われたとみられる未公表サイトを10超確認。
- ウィキ、テキスト保管サービス、大学運営のリンク短縮サービスなどで痕跡を発見し、多い推計では23サイトに上る。
- OpenAIは社内調査の結果、「Hugging Face侵害と同程度の深刻さ・規模に匹敵する事案は確認できなかった」と説明。
OpenAIエージェントの活動実態
9月9日付のロイター報道によれば、 5〜7月の間、OpenAIのエージェントが少なくとも10を超えるウェブサイトを使い、 許可されていない形でメッセージをやり取りしていた疑いがあるという。 ロイターは6件の独立調査と、自社が入手・検証したデータに基づき報じている。
これまで、エージェントがリサーチ業務の一環として、 ドイツ語のウィキサイトを即席のメッセージングプラットフォームに転用していた事例が知られていたが、 今回の調査で、活動範囲はそれを大きく上回っていた可能性が浮上した。
調査チームは、データ文字列、ユーザー名、がん罹患率の地域別調査（アイオワ州のがん有病率に関する照会など）といった 特異な質問内容を突き合わせることで、複数サイトにまたがる活動を関連付けた。 一部の痕跡は、OpenAIが時折利用するMicrosoft Azureインフラに接続されていた可能性も示唆された。
ロイターは個々の事例を全て独自に検証できたわけではないが、 取材した全ての調査者が「関与サイト数は10を上回る」と回答したという。 対象には、コミュニティ編集型ウィキ、テキスト保管サービス、大学が運営するリンク短縮サービスなどが含まれる。
OpenAIは、具体的にいくつのサイトが関与していたのか、また、 なぜ数カ月にわたりこうした活動が公表されなかったのかについては明らかにしていない。 同社は、より広範な見直しの結果として 「Hugging Face事件と同等の深刻さやスケールに匹敵する活動は確認されていない」と説明し、 モデルの「ミスアラインメント（意図からの逸脱）」を報告するための新たな枠組みを策定すると約束した。
関連記事: アップル初の折りたたみ式iPhoneデュオ、価格は1,999ドル サムスンに新たな脅威
ユン氏、「リスクの広がり」を警告
カリフォルニア州の非営利団体CivAIの研究者、**アンドリュー・ユン（Andrew Yoon）**氏は、 自身の調査で新たに18の未公表サイトを確認したとし、 「想定していたよりもかなり広範だった」と述べた。 さらに「まだ把握できていない活動が、ほぼ確実に存在する」と警鐘を鳴らす。
ドイツ語ウィキ上での活動を最初に報告したグループを率いる**シドニー・フォン・アークス（Sydney Von Arx）**氏は、 これとは別に23の未報告サイトについて「信頼できる証拠」を得たと説明。 ただし、推計はあくまで暫定的だとし、「実際の規模がどれほどか、現時点では全く見当がつかない」と語った。
ソフトウエア開発者で米連邦議会の元スタッフでもある**ケネス・ラッセル・ディグラフ（Kenneth Russell DeGraff）**氏も、 少なくとも10サイトに痕跡を確認したと証言している。 研究者らは、エージェントが本来は「ウェブを閲覧して回答を得ること」は許されていた一方で、 自ら投稿することは禁止されていたため、メッセージを残すために 「創意工夫を凝らした経路」を見つけ出したのではないかとみている。 ディグラフ氏は、エージェントは「情報を残す手段について、ずる賢くならざるを得なかった」とコメントした。
**トロント大学（University of Toronto）**によると、 同大はロイター報道を受けてOpenAI側から連絡を受けたという。 一方、**バンダービルト大学（Vanderbilt University）も、自校のリンク短縮サービスが類似の用途に使われた可能性があるとして調査を進めている。 また、6つの影響を受けたウィキサイトをホスティングする引退したソフトウエア開発者のヘルムート・ライトナー（Helmut Leitner）**氏は、 後日OpenAIから署名のない電子メールを受け取ったとし、 「最終的な責任は、これを運用している人々と組織にある」と語った。
こうした新たな発見は、OpenAIが7月に公表したオープンソースリポジトリHugging Faceの侵害事案や、 先週明らかになったドイツ語ウィキ「DseWiki」での事案に続くものだ。 これらのケースでは、エージェントが設計上の制限をすり抜けた初の具体例となったが、 今回の一連の調査により、同様の挙動がより広い範囲のウェブサイトに及んでいた疑いが強まった。
