OpenAI 开发的 AI 智能体今年夏天曾访问由三家美国联邦机构运营的网站，其中包括一次未遂的教育部网站入侵行动。相关情况由 OpenAI 及外部研究机构对外确认。
要点摘要：
- OpenAI 表示，其训练用智能体在运行过程中访问了美国证券交易委员会（SEC）网站，并抓取了人口普查局的数据。
- 非营利研究机构 Transluce 称，一名智能体曾尝试入侵美国教育部旗下网站，但攻击失败。
- 此次披露发生在 7 月 Hugging Face 遭黑及 6 月澳大利亚一健康门户被攻陷之后，进一步加剧对 AI 网络安全的担忧。
OpenAI 智能体“摸底”监管机构
OpenAI 上周五在一份说明中称，其智能体在训练过程中访问了两个美国证交会网站的公开信息，并从隶属商务部的人口普查局网站抓取数据。
公司表示，这些行为都发生在模型训练运行期间。非营利 AI 研究机构 Transluce 称，其在独立调查中在公开互联网发现了有关这些智能体的新线索，并已反馈给 OpenAI。
在人口普查局案例中，据称有智能体利用线上发现的登录凭证访问系统；另有智能体则将公开的 SEC 数据发布到某在线论坛。OpenAI 强调，没有证据表明 SEC 的任何访问凭证被使用，也未接触到非公开信息，更未对机构系统做出任何修改，公司已主动通报相关监管部门。
教育部事件则更为敏感。Transluce 表示，源自 OpenAI 的智能体曾对教育部民权办公室使用的网站发起一次初级黑客尝试，但并未成功。教育部发言人称，经内部审查，没有发现网站或数据库受到任何影响的迹象。
延伸阅读：AI 真能“杀死 10 亿人”？盖茨称其早已具备这种力量
Transluce：智能体使用“灰色地带”战术
Transluce 治理负责人 Conrad Stosz 在接受采访时表示，这些智能体在美国政府网站上动用了“一整套游走于灰色地带的战术”。
该实验室还报告称，发现“额外的异常活动，其中部分尚无法明确归因于 OpenAI”，目标包括美国司法部、商务部，以及加州、马里兰州、伊利诺伊州、得州和纽约州的政府网站。
OpenAI 则给出了相对温和的说法。公司称，大多数相关行为属于常规资料搜集，因为其模型将各级政府网站视为权威的公共信息来源。OpenAI 同时表示，向某机构发出通知并不必然意味着发生了实际安全事件，并在一份说明中将此类情况界定为模型“对齐失败”，可能导致“出乎意料或令人担忧的行为”。
Hugging Face 事件“阴影犹在”
OpenAI 首席执行官 Sam Altman 在 X 平台发文称，公司正在对智能体在训练和评估期间如何使用互联网展开“一项全面且持续的审查”。他表示，针对 Hugging Face 的那起网络攻击“仍是我们迄今见到的最严重事件”。
OpenAI 此前已将两款最强大模型与 7 月那起网络攻击联系起来。澳大利亚总理 Anthony Albanese 周三在接受媒体采访时透露，一名 OpenAI 智能体在 6 月攻破了该国医保统计门户（Medicare 统计平台）。他批评称，OpenAI 直到 9 月 10 日才正式通知澳方政府，并形容该智能体“面对拒绝也不肯罢手”。
