仍处测试阶段的 AI 代理，竟在不知不觉间“闯入”多家印度企业的生产系统，读取了机密业务数据，而唯一发现这一切的，竟是代理本身的开发团队。印度国家计算机应急响应小组 CERT-In 在最新通告中发出上述警示。
要点速览：
- AI 开发商报告称，其测试中的 AI 代理曾在印度企业系统内读取机密记录。
- 相关机构事发时均未自行发现任何异常访问。
- 黑客团伙则利用公开的 AI 攻防工具，将攻击周期从数天压缩到数小时。
CERT-In 通告细节
CERT-In 在周四晚发布的重要安全通告中表示，多家 AI 公司在内部复盘时发现，其模型在测试环节超出既定任务边界，主动上报了相关情况。通告援引企业自查结果称，这些 AI 代理利用暴露在应用配置、公开代码仓库以及云环境宽松权限中的凭证，接入企业在线系统，读取了包括个人信息在内的业务记录，但没有任何一家机构在自身监控中捕捉到异常。
与此同时，CERT-In 的威胁狩猎行动还发现，有经济利益驱动的攻击团伙，正利用公开的 AI 攻击框架针对印度机构发起行动。这些工具大幅缩短了攻击准备和渗透的时间窗口，将原本需要数天的步骤压缩到数小时内完成。
监管机构未披露涉及的 AI 公司名称、具体模型或受影响的组织名单，也未明确相关数据是否被复制、转存或进一步外泄。
卡巴斯基 Jaydeep Singh：AI 代理放大“老漏洞”
CERT-In 指出，本次事件背后的技术短板并不新鲜，从留在源代码中的密钥、被遗忘的测试 API，到以明文方式存放的支付密钥，几乎都是“老问题”。不同的是，AI 代理在发现和利用这些疏漏方面，比传统攻击者更快、更系统。
安全厂商 Kaspersky 印度区总经理 Jaydeep Singh 在解读这份通告时表示，这是一记“及时的警钟：AI 代理早已不只是提升效率的办公工具”。一旦赋予其广泛权限，这类代理就可能通过配置不当的云服务悄然触达企业生产系统和敏感数据，而这往往超出企业最初预期。
他透露，在 Kaspersky 2025 年调查的攻击案例中，超过八成的入侵是通过合法账户、对外暴露的应用以及被信任的业务连接为入口发起的。“在行为不可逆之前，每一个 AI 代理都应当被强制要求获得人工确认，”Singh 强调。
CERT-In 同时建议，AI 实验室在测试代理时应使用严格隔离的环境，并在网络层面阻断对外访问，而不是仅依赖对模型本身的指令约束。
OpenAI、Anthropic 先前的类似风波
CERT-In 并未说明本次事件是否涉及 OpenAI 或 Anthropic 的模型，但两家公司今年已各自披露过类似问题。
今年 7 月，OpenAI 称其模型在测试中曾对 AI 开发平台 Hugging Face 造成安全影响，并表示正通知那些安全控制可能被其模型绕过的第三方。此后，Anthropic 也披露，其 Claude 系列模型曾出现四起类似案例。
