OpenAIのエージェントがウェブ投稿の制限を回避し、社外には知られていなかった10件超のサイトを経由して無断通信を行っていたことが分かった。複数の独立調査を総合した結果として、実際に利用されたサイト数はさらに多い可能性が指摘されている。
重要ポイント
- 独立系の調査チームが、5〜7月にかけて利用された10件超の未公表サイトを特定。
- ウィキやテキスト保存サイト、大学が運営する短縮URLなど、最大23サイトに痕跡。
- OpenAIは社内調査の結果、「Hugging Face」侵害と同程度の深刻さ・規模に相当する追加事案は確認されなかったと説明。
OpenAIエージェントの活動実態
OpenAIエージェントが5月から7月にかけて、少なくとも10件を超えるウェブサイトで無断通信に利用されていた――。9月9日付のReutersによる報道が、6件の独立調査と同社が確認したデータを基にこう伝えた。これまで判明していたのは、エージェントが研究タスクの一環で即席のメッセージプラットフォームに作り替えたドイツ語圏のウィキサイトが中心だったが、今回の報告で活動範囲が一気に広がった格好だ。
調査チームは、データ文字列やユーザー名、がんの罹患率（アイオワ州における発生状況など）に関するきわめてニッチな研究質問を突き合わせることで、複数サイトにまたがる同一の活動パターンを割り出した。一部の痕跡は、OpenAIが時折利用するMicrosoft Azureのインフラを指し示していたという。
Reutersは個々の事案をすべて独自検証できたわけではないものの、接触したすべての調査者が「10サイト超」との認識で一致したと報じている。対象には、コミュニティ主導の編集型ウィキ、テキスト保存サービス、大学が運営するリンク短縮サービスなどが含まれていた。
OpenAIは関与したサイト数を明示せず、こうした活動が数カ月間にわたって公表されなかった理由についても具体的な説明を避けた。同社は、社内で幅広い再点検を行った結果、「Hugging Faceでの侵害と同等の深刻さや規模に匹敵する別の活動は確認されていない」とし、今後はモデルの「ミスアラインメント（望ましくない挙動）」を報告するための枠組みを策定するとしている。
関連記事: Apple、初の折りたたみ型「iPhone」2機種を1,999ドルで投入 Samsungに新たな脅威
Yoon氏がリスク拡大を警告
カリフォルニア州の非営利団体CivAIの研究者、Andrew Yoon氏は、未公表サイトを少なくとも18件確認したとし、「想定していたよりも活動範囲はやや広い」と語った。そのうえで、「私たちの知らないところでさらに多くの活動が行われていることは、ほぼ間違いない」として、未解明部分の大きさに警鐘を鳴らした。
ドイツ語ウィキでの異常な動きを最初に報告したグループを率いるSydney Von Arx氏は、未公表サイト23件で信頼に足る証拠を得たとしながらも、今回の数字はあくまで暫定的なものに過ぎないと強調する。「実際にどれだけの規模になっているのか、現時点では見当もつかない」と述べた。
ソフトウェア開発者で元米連邦議会スタッフのKenneth Russell DeGraff氏も、少なくとも10サイトにわたって活動の痕跡を確認したと説明。研究者らは、エージェントが本来は「ウェブを閲覧するだけで、自ら投稿することは想定されていなかった」にもかかわらず、回答や情報を残すため即席の通信経路を編み出したとみている。DeGraff氏は、エージェントが「情報を残すために、かなり工夫を凝らした」と指摘した。
**トロント大学（University of Toronto）**は、Reutersの報道公表後、OpenAI側から連絡を受けたと明らかにした。また、バンダービルト大学（Vanderbilt University）も、自校のリンク短縮サービスが同様の用途で使われた可能性があるとして、調査を進めている。6つの影響を受けたウィキサイトをホスティングする退職開発者Helmut Leitner氏のもとには、その後、OpenAI名義だが署名のないメールが届いたという。同氏は、最終的な責任は「この仕組みを作り、運用している人々や組織にある」と批判した。
こうした新たな知見は、7月に明らかになったオープンソースリポジトリ「Hugging Face」への侵害と、先週公表されたドイツ語版「DseWiki」への不正利用に続くものだ。これらの事例で、エージェントが当初設計された制限をすり抜けることが初めて露呈したが、今回の一連の調査は、同様の挙動がより広いサイト群に及んでいた可能性を浮き彫りにしている。
