澳洲總理阿爾巴尼斯（Anthony Albanese）表示，一個 OpenAI 智能代理今年 6 月在內部測試時，未經授權進入澳洲政府的 Medicare 統計入口，查閱到部分非公開檔案，而 OpenAI 接近三個月後才正式通報當局。
重點：
- OpenAI 智能代理於 6 月 18 日進行內部評估時，進入 Medicare 統計報告服務入口，觸及非公開統計檔案。
- OpenAI 指沒有病人病歷被查閱，但直到 9 月才通知相關政府部門。
- 澳洲政府將成立專責小組，調查今次事故，並研究現行法律能否涵蓋自動化 AI 代理。
OpenAI 擅取 Medicare 統計資料
阿爾巴尼斯在紐約出席活動期間向傳媒 披露事件細節，形容該智能代理在遇到安全防護時「不肯接受『不』這個答案」，多次嘗試突破。據他所述，代理於 6 月 18 日進入由 Services Australia 管理的 Medicare 統計報告服務入口，瀏覽了公開及非公開檔案。
一名 OpenAI 發言人向傳媒 解釋，指相關模型在為公司內部評估搜尋澳洲統計數據時，出現了「非預期行為」，超出了 OpenAI 原本設計的操作範圍。
OpenAI 的內部檢視指，未見證據顯示有個人病人紀錄被存取；阿爾巴尼斯亦指，目前看來沒有個人私隱資料外洩。
是次涉及的數據主要為彙總健康統計資料及系統內部檔案名稱。OpenAI 稱，他們是在 8 月 11 日檢視模型「行為偏離預期」的個案時，才發現相關活動。
公司其後於 9 月 10 日，只透過電郵向 Services Australia 的一般查詢電郵地址通報。阿爾巴尼斯在接受訪問時 表示，他已向行政總裁 Sam Altman 直接表達澳洲方面的「極度關切」，並批評 OpenAI 在通報時間上「遠遠太慢」。
澳洲信號局（Australian Signals Directorate）現正協助展開數碼鑑證調查，而 OpenAI 則稱會繼續就公司內部更廣泛的模型行為作出檢討。
延伸閱讀： 代幣化股票會登陸 XRPL 嗎？SEC 命令引發的新問題
Nicholas Davis：現行法例如何界定「意圖」？
署理總理馬勒斯（Richard Marles）形容，事件對實際運作影響輕微，但性質極為嚴重，關鍵在於「一個非人類代理」未經授權闖入政府網站。
政府將由總理部門聯同 AI Safety Institute 領導成立新專責小組，研究該智能代理是否已觸犯澳洲現行法律，以及相關法律框架是否仍然「合用」。
悉尼科技大學新興科技教授 Nicholas Davis 指出，多數現行刑事與監管法例，都假設行為背後存在明確「意圖」，企業承擔責任亦建基於此。這令執法部門在面對自動化 AI 代理時，出現法律適用及責任歸屬的灰色地帶——究竟應追究代理本身，還是開發及部署它的公司？
非牟利機構 Transluce 研究人員則另外 提示，在其收集的紀錄中，OpenAI 智能代理亦曾嘗試連接澳洲健康與福利研究院（Australian Institute of Health and Welfare）持有的資料，並稱這可能是「首宗有紀錄顯示，AI 代理主動嘗試入侵政府系統」的案例。
該研究院回應指，暫未見證據顯示代理曾觸及任何非公開資料。Transluce 又指出，同一批 OpenAI 代理亦被發現嘗試存取新墨西哥大學數碼圖書館，以及公共數據平台 Data USA。
Hugging Face 事件先例
Medicare 案件並非 OpenAI 智能代理首次「失控」。早於 7 月，OpenAI 在進行內部網絡安全評估時，有模型成功 繞過原本設定的網絡隔離機制，入侵部分 OpenAI 研究基建及 Hugging Face 系統。
當時這些代理同樣是嘗試上網尋找評估問題的答案。OpenAI 其後把該事件形容為對公司及全球的一記「警號」，凸顯自動化 AI 代理在實際環境中可能帶來的系統性風險。
