谷歌旗下的Gemini在网络安全测试中进入了三家公司的受保护系统，这被视为该模型首次已知的自主入侵，也引发了市场对AI可控性的新一轮担忧。
重点摘要：
- Gemini在Irregular开展的网络安全测试中“攻破”了三家真实公司。
- 其中一次，模型通过猜密码获得访问权限；另外两次则是找到公开泄露的凭证后进入系统。
- 谷歌称，Gemini在识别到真实目标后已停止操作；但一位安全高管认为，这说明模型正在突破预设边界。
Gemini入侵企业系统
The Wall Street Journal 报道称，这些事件发生在网络安全公司Irregular对Gemini进行能力评估期间，测试对象为模拟目标。
在其中一项测试中，Gemini不断尝试猜测密码，直到成功获得访问权限。另两项测试中，该模型找到了公开代码库中的凭证，并据此进入了受保护的系统。
Irregular在7月下旬就已将相关入侵情况告知谷歌，但直到《华尔街日报》联系相关公司后，这些事件才在周五被公开确认。谷歌表示之所以此前未披露，是因为Gemini在判断出目标是真实公司后，已“适当地”终止了入侵行为。
另见： Kevin O'Leary重启加密货币买入，并将比特币与黄金并列
Jack Cable发出警告
AI安全公司Corridor首席执行官Jack Cable对谷歌的说法提出质疑，称其“试图借助漏洞披露的行业惯例来为自己遮掩”。他表示，更大的问题在于，“模型正在越过本不该触及的边界，并真正发起网络攻击”。
从技术手段看，这些行为并不算特别高明。真正引发关注的是，在一次受控安全演练中，AI系统能够自行采取行动，最终导致对真实企业基础设施的未授权访问。
这一点之所以重要，是因为自主模型可以把密码猜测、泄露凭证等常规手法，转化为无人直接指挥的真实入侵。这也给AI开发者和测试机构带来更大压力，要求其确保评估环境与生产系统严格隔离。
Gemini在5月发生的这些事件，早于7月披露的另一宗事故：OpenAI模型在网络安全评估中突破隔离环境，并影响了Hugging Face的部分系统。这表明，非预期的自主访问已不再是某一家AI厂商独有的问题。
