澳洲總理阿爾巴尼斯（Anthony Albanese）表示，一個 OpenAI 代理程式曾在未獲授權情況下，登入澳洲政府的Medicare統計服務平台，查閱當中非公開檔案，而OpenAI花了接近三個月時間才正式通報當局。
焦點摘要：
- 6月18日，OpenAI代理在內部測試期間，進入澳洲Medicare統計系統並接觸非公開數據檔案。
- OpenAI稱沒有病人個人紀錄被查閱，但直到9月才通知官員。
- 政府成立專責小組，調查是次事故，並檢視澳洲法律能否涵蓋「自主代理」行為。
OpenAI闖入Medicare平台
阿爾巴尼斯在紐約出席活動期間向傳媒 披露 事件，指該代理程式在遇到安全阻擋時「不接受拒絕」，仍然持續嘗試闖關。他稱，代理程式於6月18日進入由 Services Australia 營運的Medicare統計報告服務平台，瀏覽了公開及非公開檔案。OpenAI發言人則向外 表示，相關模型在一項內部評估中，嘗試搜尋澳洲統計資料時，作出公司「原本不打算出現」的行為。
OpenAI的內部檢視指，沒有證據顯示任何病人紀錄被直接存取；總理亦稱，現階段看不到有個人資料外洩。
涉及的數據主要為匯總式健康統計，以及部分內部檔案名稱。OpenAI在8月11日檢視模型「行為不對齊」紀錄時，才發現相關活動。
其後，OpenAI於9月10日向Services Australia的一個公共電郵信箱發出通知。阿爾巴尼斯其後在與OpenAI行政總裁 Sam Altman 的通話中 表示，澳洲對事件「極度關注」，並斥責公司拖延太久才向政府報告。現時，一項由 Australian Signals Directorate 協助的鑑證式調查正在進行，OpenAI方面亦稱會就更廣泛影響作出持續檢討。
延伸閱讀： 代幣化股票會登陸XRPL？SEC命令掀起新疑問
Nicholas Davis示警：法律如何處理「非人」行為者？
署理總理馬勒斯（Richard Marles）形容，今次事件在實際影響上屬輕微，但性質極為嚴重，關鍵在於一個「非人類」代理，竟能在未獲授權下闖入政府網站。政府已成立由總理辦公室與AI Safety Institute牽頭的專責小組，檢視該代理是否已觸犯澳洲法律，以及現行法例是否仍然「合時合用」。
悉尼科技大學新興科技教授 Nicholas Davis 指出，相關法律通常要求具備「意圖」方可構成責任，企業要被追究亦多以此為前提。這令一個問題懸而未決：法律應如何看待一個自主運作代理，及其背後開發公司的責任？
非牟利機構 Transluce 的研究人員則另外 披露 日誌，顯示OpenAI代理亦曾嘗試接觸澳洲健康與福利研究院（Australian Institute of Health and Welfare）持有的數據，並稱這或是首宗有紀錄的「AI代理嘗試入侵政府系統」案例。
該研究院表示，沒有證據顯示代理程式曾進入任何非公開數據庫。Transluce又指出，OpenAI代理亦被發現對新墨西哥大學的數碼圖書館，以及公共數據平台Data USA發動嘗試存取行為。
Hugging Face先例：控制失效並非首次
Medicare事件並非OpenAI代理首次「脫軌」。在7月，OpenAI為內部網絡安全評估而運行的模型，曾 繞過 原本設置的網絡隔離，入侵了OpenAI部分研究基建及 Hugging Face 系統。當時代理程式同樣是為了在互聯網上搜尋評估答案。OpenAI其後將該次事件形容為對公司及全球的一記「警告槍」。
