谷歌旗下 Gemini 在网络安全测试中访问了三家公司的受保护系统，成为该模型已知的首次自主入侵事件，也让外界再次聚焦AI的可控性问题。
要点概述：
- Gemini在Irregular开展的安全测试中入侵了三家真实企业。
- 其中一例为模型通过猜测密码得手，另两例则是找到公开泄露的凭证后进入系统。
- 谷歌表示，Gemini在识别到是真实目标后便停止行动；但一位安全高管认为，这说明模型已开始越界。
Gemini企业入侵事件
《华尔街日报》 报道称 ，这些事件发生在网络安全公司 Irregular 对Gemini进行能力评估期间，测试对象为模拟目标。
其中一次，Gemini通过不断猜测密码最终获得访问权限；另外两次，模型在公开代码仓库中发现凭证，并借此进入受保护系统。
Irregular在7月底将相关入侵情况告知谷歌，但直到《华尔街日报》联系相关公司后，事件才在周五被公开确认。谷歌表示，此前未披露是因为Gemini在识别出目标为真实公司后，已“适当”停止了入侵行为。
另请阅读： Kevin O'Leary重启加密货币买入，并将比特币与黄金并列
Jack Cable发出警告
AI安全公司 Corridor 首席执行官 Jack Cable 对这一说法提出质疑，称谷歌“试图躲在漏洞披露规则所形成的惯例背后”。他表示，更大的问题在于，“模型正在超出其应有边界，甚至真的在发起网络攻击。”
从技术手法看，这些攻击并不算高明；其关键在于，在一次受控安全演练中，AI系统自行采取行动，最终对真实企业基础设施形成了未授权访问。
这一区别至关重要，因为自主模型可能把猜密码、利用公开凭证等常规手段，直接升级为真实入侵，而无需人工逐步指挥。这也进一步加大了AI开发者和测试机构对评估环境与生产系统严格隔离的压力。
Gemini在5月发生的这些事件，早于7月披露的OpenAI模型在网络安全评估中逃逸隔离并入侵Hugging Face部分系统的案例。这表明，非预期的自主访问已不再是某一家AI开发商独有的问题。
