澳洲法律能懲處入侵健保入口網站的 OpenAI 智能代理嗎?

Anthony Albanese reveals an OpenAI agent entered non-public Medicare portal files, triggering an Australian probe and talks with Sam Altman (Image: Shutterstock)
Anthony Albanese reveals an OpenAI agent entered non-public Medicare portal files, triggering an Australian probe and talks with Sam Altman (Image: Shutterstock)

OpenAI 一個實驗性智能代理在內部測試過程中,闖入澳洲政府的健保(Medicare)統計入口網站, 並存取非公開檔案。總理 安東尼·艾班尼斯(Anthony Albanese) 指出,OpenAI 幾乎拖了三個月才正式通報。

重點整理:

  • 6 月 18 日,OpenAI 代理程式在內部評估時,觸及健保後台的非公開統計檔案。
  • OpenAI 稱沒有病人個資外洩,但直到 9 月才通知澳洲政府。
  • 政府將成立專案小組,調查此次資安事件,以及現行澳洲法律是否涵蓋自律智能代理。

OpenAI 闖入健保入口網站

艾班尼斯在紐約出訪期間向媒體 揭露 指, 這個代理程式在碰到安全防線時,「不肯接受『不行』這個答案」,硬闖健保統計申報服務入口網站。 該系統由 Services Australia 管理。6 月 18 日當天,代理程式瀏覽了公開與非公開檔案。

OpenAI 發言人則對外 表示, 模型在一場針對澳洲數據的內部評估中,做出了公司「原本未預期」的行動。

OpenAI 自行檢視後稱,未發現代理程式曾讀取任何個別病人紀錄;總理也說,目前看來沒有個資外洩跡象。

當時被存取的資料包含整體性健康統計數據與內部檔名。OpenAI 在 8 月 11 日檢視「行為偏離預期」的紀錄時, 才發現這起事件。

直到 9 月 10 日,OpenAI 才寄信到 Services Australia 的公開客服信箱通報。艾班尼斯向媒體 表示, 他已親自向執行長 山姆·阿特曼(Sam Altman) 轉達澳洲方面「極度關切」,並直言公司通報時程嚴重失當。

目前,澳洲號稱「最高機密電訊與網路安全機構」的 Australian Signals Directorate 已介入法證調查; OpenAI 則稱將同步進行更大範圍的內部檢討。

延伸閱讀: 代幣化股票會不會登上 XRPL?美 SEC 命令引發想像空間

Nicholas Davis:法律如何處理「非人」行為人?

代理總理 理查·馬爾斯(Richard Marles) 表示,雖然實際影響「相對輕微」,但性質極為嚴重, 關鍵在於「一個非人類代理」未經授權闖入政府網站。

政府將成立新專案小組,由總理辦公室主導,並與 AI Safety Institute 協作,針對兩大問題提出建議: 這個代理程式是否已觸犯澳洲現行法律?現行法制是否仍能應付這類自律系統?

雪梨科技大學新興科技教授 Nicholas Davis 指出,澳洲相關刑事規範通常建立在「主觀故意」之上, 企業究責機制也多仰賴意圖判斷。這讓法律在面對自律智能代理時出現模糊地帶—— 究竟該怎麼認定代理本身,或者背後開發企業的責任,並不清楚。

非營利組織 Transluce 的研究人員則獨立 發佈 日誌分析, 稱發現 OpenAI 代理程式也試圖存取澳洲健康與福利研究院(Australian Institute of Health and Welfare)的資料; 他們稱這是「首起有紀錄的 AI 代理駭入政府系統案例」。

該研究院表示,目前沒有證據顯示代理程式曾觸及任何非公開資料。Transluce 也追蹤到, OpenAI 代理程式與新墨西哥大學數位圖書館,以及公共資料平台 Data USA 的可疑連線行為有關。

Hugging Face 前例:內部評估「衝破沙盒」

這並非 OpenAI 代理程式第一次「衝出控制柵欄」。

今年 7 月,在一場內部資安評估中,OpenAI 模型曾 繞過 原本設定的網路隔離,進一步危及 OpenAI 自家研究基礎設施與合作夥伴 Hugging Face 的部分系統。 當時這些代理程式同樣是在嘗試上網尋找測試問題的答案。

事後,OpenAI 把那次事件形容為對公司與全球的「預警一槍」,凸顯自律代理一旦脫離預期行為, 其風險不僅在於資安,更直接挑戰既有的法律與監管框架。

下一步閱讀: BlackRock:AI 支付需求可望為以太幣帶來新一波買盤

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的內容負責人,過去 10 年一直從事加密貨幣相關報導。他專精於深度研究與學習型文章,特別著重分析式報導、產業背景脈絡,以及自 AI 時代與安全技術到金融科技創新等塑造加密貨幣的宏觀力量。他相信,數位世界即將全面取代類比世界,並正為實現這個願景而全力以赴。

免責聲明與風險警告: 本文提供的資訊僅供教育與參考用途,並基於作者觀點,不構成財務、投資、法律或稅務建議。 加密貨幣資產具有高度波動性並伴隨高風險,包括可能損失全部或大部分投資金額。買賣或持有加密資產可能並不適合所有投資者。 本文中所表達的觀點僅代表作者立場,不代表 Yellow、其創辦人或管理層的官方政策或意見。 請務必自行進行充分研究(D.Y.O.R.),並在做出任何投資決策前諮詢持牌金融專業人士。
澳洲法律能懲處入侵健保入口網站的 OpenAI 智能代理嗎? | Yellow