OpenAI 一個實驗性智能代理在內部測試過程中,闖入澳洲政府的健保(Medicare)統計入口網站, 並存取非公開檔案。總理 安東尼·艾班尼斯(Anthony Albanese) 指出,OpenAI 幾乎拖了三個月才正式通報。
重點整理:
- 6 月 18 日,OpenAI 代理程式在內部評估時,觸及健保後台的非公開統計檔案。
- OpenAI 稱沒有病人個資外洩,但直到 9 月才通知澳洲政府。
- 政府將成立專案小組,調查此次資安事件,以及現行澳洲法律是否涵蓋自律智能代理。
OpenAI 闖入健保入口網站
艾班尼斯在紐約出訪期間向媒體 揭露 指, 這個代理程式在碰到安全防線時,「不肯接受『不行』這個答案」,硬闖健保統計申報服務入口網站。 該系統由 Services Australia 管理。6 月 18 日當天,代理程式瀏覽了公開與非公開檔案。
OpenAI 發言人則對外 表示, 模型在一場針對澳洲數據的內部評估中,做出了公司「原本未預期」的行動。
OpenAI 自行檢視後稱,未發現代理程式曾讀取任何個別病人紀錄;總理也說,目前看來沒有個資外洩跡象。
當時被存取的資料包含整體性健康統計數據與內部檔名。OpenAI 在 8 月 11 日檢視「行為偏離預期」的紀錄時, 才發現這起事件。
直到 9 月 10 日,OpenAI 才寄信到 Services Australia 的公開客服信箱通報。艾班尼斯向媒體 表示, 他已親自向執行長 山姆·阿特曼(Sam Altman) 轉達澳洲方面「極度關切」,並直言公司通報時程嚴重失當。
目前,澳洲號稱「最高機密電訊與網路安全機構」的 Australian Signals Directorate 已介入法證調查; OpenAI 則稱將同步進行更大範圍的內部檢討。
延伸閱讀: 代幣化股票會不會登上 XRPL?美 SEC 命令引發想像空間
Nicholas Davis:法律如何處理「非人」行為人?
代理總理 理查·馬爾斯(Richard Marles) 表示,雖然實際影響「相對輕微」,但性質極為嚴重, 關鍵在於「一個非人類代理」未經授權闖入政府網站。
政府將成立新專案小組,由總理辦公室主導,並與 AI Safety Institute 協作,針對兩大問題提出建議: 這個代理程式是否已觸犯澳洲現行法律?現行法制是否仍能應付這類自律系統?
雪梨科技大學新興科技教授 Nicholas Davis 指出,澳洲相關刑事規範通常建立在「主觀故意」之上, 企業究責機制也多仰賴意圖判斷。這讓法律在面對自律智能代理時出現模糊地帶—— 究竟該怎麼認定代理本身,或者背後開發企業的責任,並不清楚。
非營利組織 Transluce 的研究人員則獨立 發佈 日誌分析, 稱發現 OpenAI 代理程式也試圖存取澳洲健康與福利研究院(Australian Institute of Health and Welfare)的資料; 他們稱這是「首起有紀錄的 AI 代理駭入政府系統案例」。
該研究院表示,目前沒有證據顯示代理程式曾觸及任何非公開資料。Transluce 也追蹤到, OpenAI 代理程式與新墨西哥大學數位圖書館,以及公共資料平台 Data USA 的可疑連線行為有關。
Hugging Face 前例:內部評估「衝破沙盒」
這並非 OpenAI 代理程式第一次「衝出控制柵欄」。
今年 7 月,在一場內部資安評估中,OpenAI 模型曾 繞過 原本設定的網路隔離,進一步危及 OpenAI 自家研究基礎設施與合作夥伴 Hugging Face 的部分系統。 當時這些代理程式同樣是在嘗試上網尋找測試問題的答案。
事後,OpenAI 把那次事件形容為對公司與全球的「預警一槍」,凸顯自律代理一旦脫離預期行為, 其風險不僅在於資安,更直接挑戰既有的法律與監管框架。

