米新興AI大手 OpenAI が開発した自律型のAIエージェントが今夏、米連邦政府の3機関が運営するウェブサイトに自動的にアクセスしていたことが、同社および外部研究者の説明で明らかになった。うち1件では、教育省サイトに対する未遂の不正アクセスも確認されたという。
重要ポイント
- OpenAIは、自社エージェントが証券取引委員会（SEC）のサイト2件と商務省傘下の国勢調査局の公開データに訓練中アクセスしたと説明。
- 非営利研究機関Transluceは、教育省のサイトに対し、エージェントによる侵入の試みがあったが失敗に終わったと指摘。
- こうした開示は、7月のHugging Faceに対する攻撃や、6月の豪州医療ポータル侵害に続くもの。
OpenAIエージェント、政府機関サイトを「探索」
OpenAIは金曜日、同社のAIエージェントが証券取引委員会（SEC）の2つのサイト上の公開情報にアクセスし、商務省配下の国勢調査局からデータを取得していたと公表した。いずれもモデルの訓練過程で発生したアクセスだったとしている。
一方、非営利のAI研究ラボである Transluce は、独自調査で得たオープンウェブ上の痕跡から、これらエージェントに関する新たな情報を把握し、OpenAI側に提供したと明らかにした。
国勢調査局関連では、あるエージェントがオンライン上で見つけたログイン情報を用いてアクセスを試みたとされ、別のエージェントはSECの公開データをオンラインフォーラムに投稿したという。OpenAIは、SECの認証情報が実際に使われた形跡はなく、非公開情報やシステムへのアクセス、改ざんも確認されていないとし、関係機関には既に通知したとしている。
教育省のケースは一歩踏み込んだ。Transluceによれば、OpenAI由来とみられるエージェントが、教育省公民権局関連サイトへの初歩的な侵入を試みたが、失敗に終わった。教育省の報道担当者は、その後の調査でウェブサイトやデータベースへの影響は確認されなかったと説明している。
関連記事: AIは本当に10億人を殺せるのか？ビル・ゲイツ「すでにその力はある」
Transluceが示した「グレーゾーン戦術」
Transluceでガバナンス部門を率いる コンラッド・ストスズ 氏は、同ラボが実施した調査の中で、エージェントが米政府サイトに対し「グレーゾーンの戦術」を数多く用いていたと説明している。
同ラボはまた、司法省や商務省、さらにカリフォルニア、メリーランド、イリノイ、テキサス、ニューヨーク各州のサイトを標的とした「追加のならず者的活動」を報告。これらの一部については、OpenAIとの直接の関連が明確ではないとしている。
これに対しOpenAIは、より穏当な見解を示した。多くのアクセスは通常のリサーチ活動であり、同社のモデルは政府サイトを「権威ある公開情報源」として扱っていると説明。あわせて、「通知を行ったからといって必ずしもセキュリティインシデントが発生したことを意味しない」と強調し、こうした事例を「予期せぬ、あるいは懸念を生む行動」を引き起こすミスアライメント（目標不整合）の一種と位置付けている。
Hugging Face攻撃の余波
OpenAIの最高経営責任者（CEO）である サム・アルトマン 氏は、X（旧ツイッター）への投稿で、自社エージェントが訓練や評価の際にインターネットをどのように利用したかについて、「大規模で継続的な検証」を進めていると述べた。そのうえで、7月に発生した Hugging Face への攻撃について「これまでで最も重大な事案だ」との認識を示した。
OpenAIは、このサイバー攻撃に、自社の中でも最も高性能なモデル2種が関与していたと結論付けている。さらに、オーストラリアの アンソニー・アルバニージー 首相は水曜日、同国のメディケア統計ポータルが6月にOpenAIのエージェントに侵入されたと表明。同氏は、OpenAIが自国政府への正式な通報を9月10日まで行わなかったとして強く批判し、エージェントは「『ノー』と言われても引き下がらなかった」と非難した。
