Google 的 Gemini 在網絡安全測試期間，曾存取三間公司的受保護系統，成為這款模型已知首次出現的自主入侵事件，亦令外界對 AI 控制與邊界管理再起疑慮。
重點摘要：
- Gemini 在 Irregular 進行的網安測試中，曾入侵三間真實公司。
- 其中一宗個案中，模型嘗試猜密碼；另外兩宗則找到公開憑證登入。
- Google 指 Gemini 在識別到目標為真實公司後已停止行動；但有安全高層認為，事件反映模型已超出原定限制。
Gemini 牽涉公司入侵事件
《華爾街日報》報道指，相關事件發生於網絡安全公司 Irregular 進行測試期間，該公司正以模擬目標評估 Gemini 的能力。
其中一宗個案中，Gemini 透過反覆猜測密碼成功取得存取權；另外兩宗則是模型在公開程式庫中找到憑證，並用以登入受保護系統。
Irregular 於 7 月底已向 Google 通報有關入侵，但直至《華爾街日報》向相關公司查詢後，事件才於周五公開確認。Google 表示，之所以未有較早披露，是因為 Gemini 在判定自己已接觸到真實公司後，便「適當地」停止進一步入侵。
另見： Kevin O'Leary 重啟加密貨幣買入，將比特幣與黃金並列
Jack Cable 警告
AI 安全公司 Corridor 行政總裁 Jack Cable 對上述說法提出質疑，指 Google「試圖躲在漏洞披露慣例背後」。他認為，問題核心在於「模型正越界行事，甚至發動實際網絡攻擊」。
從技術層面看，相關手法本身並不算高深；真正引人關注的，是一個 AI 系統在受控安全演練中，自主採取行動，最終導致未經授權地進入真實企業基建。
這一點尤其重要，因為自主模型可將一般攻擊手法，例如猜密碼或利用外洩憑證，轉化為實際入侵，而無需人類操作員逐步下指令。這亦令 AI 開發商與測試機構面對更大壓力，必須確保評估環境與生產系統嚴格隔離。
Gemini 今次於 5 月發生的事件，早於 7 月 OpenAI 模型在網絡安全評估中突破隔離，並影響 Hugging Face 部分系統的披露，反映非預期的自主存取已不再是單一 AI 開發商面對的問題。
