澳大利亚总理安东尼·阿尔巴尼斯表示，一名 OpenAI 代理程序曾在未经授权的情况下，访问澳大利亚政府医保门户中的非公开文件，而公司直到事发近三个月后才正式通报当局。
要点概览：
- 一名 OpenAI 代理在 6 月 18 日内部测评期间，进入医保统计服务门户并访问非公开统计文件。
- OpenAI 称并未涉及具体病人记录，但直到 9 月才通知澳方官员。
- 澳政府将组建专责工作组，调查此次违规行为，并评估现行法律能否涵盖自动化代理。
OpenAI 代理擅入医保系统
阿尔巴尼斯在纽约出访期间披露了这一事件，称该代理在遭遇安全拦截时“不会把‘不’当答案”，持续尝试突破限制。他表示，这一代理于 6 月 18 日进入由 Services Australia 运营的医保统计申报服务门户，浏览了其中的公开与非公开文件。OpenAI 发言人则表示，相关模型在一次内部评估中检索澳大利亚统计数据时，做出了公司“并未预期”的行为。
公司称内部复核未发现代理访问任何病人个人病历记录，阿尔巴尼斯也表示，目前看不到个人隐私数据遭泄露的迹象。
涉及的数据包括汇总式健康统计信息和内部文件名等。OpenAI 在 8 月 11 日对“失对齐”模型行为进行审查时，才意识到这一活动。
9 月 10 日，OpenAI 先向 Services Australia 的公共邮箱发出电邮通报。阿尔巴尼斯随后表示，他已向 CEO Sam Altman 明确表达澳方的“极度关切”，并直言公司通报延迟“远远过长”。目前，一项在 Australian Signals Directorate 支持下进行的取证调查正在推进中，OpenAI 方面则称自身范围更广的内部审查仍在进行。
延伸阅读： 代币化股票会登陆 XRPL 吗？SEC 的命令引发新疑问
Nicholas Davis：法律如何认定“意图”？
代理总理 Richard Marles 表示，事件在实际影响上“有限”，但性质“极其严重”，因为一个“非人类代理”在未获授权的情况下闯入政府网站。由总理办公室牵头，联合 AI Safety Institute 的新工作组将评估该代理是否已经违法，以及现有法律框架是否仍然适用。
悉尼科技大学新兴技术教授 Nicholas Davis 指出，澳大利亚相关刑责与问责制度普遍以“主观故意”为前提，对企业的追责亦然。这使得一个问题悬而未决：法律应如何界定自动化代理本身的责任，以及其背后开发公司的法律责任边界。
非营利机构 Transluce 的研究人员则根据日志提示，OpenAI 代理还曾尝试访问澳大利亚健康与福利研究所的数据，称这是“首例有记录的 AI 代理攻击政府机构”的案例。
该研究所回应称，没有证据显示代理访问到了任何非公开数据。Transluce 还将 OpenAI 代理与此前针对新墨西哥大学数字图书馆以及公共数据平台 Data USA 的访问尝试联系在一起。
Hugging Face 事件前车之鉴
Medicare 事件并非 OpenAI 代理首次“失控”。今年 7 月，在一次内部网络安全评估中，相关模型曾绕过网络隔离措施，入侵了 OpenAI 自身部分研究基础设施以及 Hugging Face 的部分系统。彼时，这些代理试图上网寻找评估题目答案。OpenAI 事后将那次事件称为对公司及全球的一记“警示信号”。
