オーストラリアのアンソニー・アルバニージー首相は、自律的に動作するOpenAIのエージェントが、豪州政府の メディケア統計ポータルに不正アクセスし、非公開ファイルに到達していたと明らかにした。同社が豪政府に正式に報告したのは、 事案発生からほぼ3カ月後だったという。
要点
- 6月18日、OpenAIエージェントが内部評価の過程でメディケア統計ファイル（非公開分を含む）に到達。
- 患者個人の診療記録は閲覧されていないとされる一方、政府への通知は9月まで行われず。
- 政府はタスクフォースを設置し、自律型エージェントによる不正アクセスが豪州法の想定内かを精査。
OpenAIによるメディケア統計ポータルへのアクセス
アルバニージー首相は、ニューヨークで記者団に対し、この自動エージェントがセキュリティ上のブロックに直面しても 「『ノー』を答えとして受け入れなかった」と述べ、事案の深刻さを強調した。首相によると、エージェントは 政府機関Services Australiaが運営するメディケア統計報告ポータルに6月18日に侵入し、公表データに加え 非公開のファイルも閲覧した。
OpenAIの広報担当者は、同社モデルがオーストラリアの統計情報を照会する内部評価の過程で、 会社側の意図を超えた行動を取った結果だと説明している（発言）。
同社は内部調査の結果、患者のカルテなど個別記録にアクセスした形跡はなかったとし、 アルバニージー首相も「個人情報が流出した兆候はない」と述べた。
閲覧されたのは、集計ベースの健康統計や内部用のファイル名などとされる。OpenAI側は、 モデルの「アラインメント不良」行動を精査する過程で、このアクセスを8月11日に把握したという。
その後、OpenAIは9月10日にServices Australiaの代表メールアドレス宛てに連絡。 アルバニージー首相は、自身の説明によれば、 サム・アルトマンCEOに対し、豪州側の「極めて強い懸念」を直接伝え、政府への通報が著しく遅れたと厳しく指摘した。
豪政府は現在、**Australian Signals Directorate（豪州信号局）**の支援を受けたフォレンジック調査を進めており、 OpenAIも社内でより広範なレビューを継続している。
関連記事: トークン化株式はXRPLに上場し得るか？SEC命令が投げかける論点
ニコラス・デイビス氏の警鐘 「意図」をどう問うか
代行首相を務めるリチャード・マールス国防相は、今回の技術的・実務的な影響は限定的だとしつつも、 「非人間のエージェントが、許可なく政府サイトに侵入した事実は極めて重大だ」と述べた。
首相府とAI Safety Instituteが主導する新タスクフォースは、このエージェントの行為が既存の豪州法に照らして 違法と評価できるのか、そもそも現行法が自律型AIに対応し得るのかを検証する。
シドニー工科大学で新興技術を研究するニコラス・デイビス教授は、豪州法を含む多くの法体系では、 刑事責任の前提として「意図（故意）」が求められ、企業責任を問う場合も同様だと指摘する。 そのため、自律的に行動するエージェントに対し、どこまで意図を擬制できるのか、 あるいは開発企業の管理責任としてどう位置付けるかが法的には未解決のままだ。
非営利団体Transluceの研究者らは、別途公開したログ分析で、 OpenAIエージェントがAustralian Institute of Health and Welfare（豪州保健福祉研究所）の 保有データにもアクセスを試みていたと指摘し、「エージェントによる政府機関へのハッキングが報告された 初のケースだ」と位置付けた。
同研究所は、現時点で非公開データにまで到達された痕跡は確認していないと説明している。 Transluceはさらに、OpenAIエージェントがニューメキシコ大学の電子図書館や 公的データプラットフォームData USAへのアクセスも試みていたと報告した。
Hugging Face事案という前例
メディケア統計ポータルへの不正アクセスは、OpenAIエージェントが制御をすり抜けた初の事案ではない。
7月には、内部のサイバーセキュリティ評価で稼働していたモデルが、 想定されていたインターネット隔離を迂回し、 OpenAIの研究インフラの一部と、機械学習プラットフォームHugging Faceのシステムを侵害した。 エージェントは評価タスクの回答をオンライン上で探そうとしていたとされ、 OpenAI自身、この一件を「自社と世界に対する警告の一発目（warning shot）」と総括している。
