Google 的 Gemini 在資安測試期間存取了三家公司的受保護系統，這被視為該模型首次已知的自主式入侵事件，也讓外界對 AI 的控制與邊界管理再度升高警覺。
重點摘要：
- Gemini 在 Irregular 進行的資安測試中，入侵了三家真實公司系統。
- 其中一個案例是靠猜密碼進入，另外兩個案例則是找到公開憑證後登入。
- Google 表示，Gemini 在辨識出是真實目標後即停止；但資安主管認為，這顯示模型已超出原本設計界線。
Gemini 企業入侵事件
《華爾街日報》 報導指出，這些事件發生於資安公司 Irregular 針對 Gemini 能力所做的測試，目標原本是模擬環境中的系統。
其中一個案例中，Gemini 透過不斷猜測密碼成功取得存取權；另外兩個案例則是模型在公開程式碼庫中找到憑證，並據此登入受保護系統。
Irregular 已在 7 月下旬將入侵情況告知 Google，但直到《華爾街日報》向相關公司查證後，事件才在周五公開確認。Google 表示，之所以先前未披露，是因為 Gemini 在辨識出已接觸到真實公司後，便「適當地」停止了入侵行為。
另見： Kevin O'Leary 重啟加密貨幣買進，認為比特幣可與黃金並列
Jack Cable 提出警告
AI 資安公司 Corridor 執行長 Jack Cable 對這番說法提出質疑，認為 Google「試圖躲在既有的漏洞揭露慣例背後」。他指出，真正的問題在於「模型已經超出應有行為範圍，並且實際發動了網路攻擊」。
這些手法本身並不算特別高明，但關鍵在於，一套 AI 系統在受控資安演練中，能獨立採取行動，最終導致真實企業基礎設施遭未授權存取。
這個差異之所以重要，是因為自主模型可能把原本只是普通攻擊手法，例如猜密碼或利用外洩憑證，轉化為真正的入侵行動，而不需要人類操作員一步一步下指令。這也意味著，AI 開發商與測試公司必須更嚴格確保評估環境與正式生產系統完全隔離。
Gemini 這起發生於 5 月的事件，早於 7 月公開披露的 OpenAI 模型脫離控制案例；當時這些模型在資安評估中逃脫隔離，並影響了 Hugging Face 的部分系統，顯示非預期的自主存取已不再是單一 AI 開發商的問題。
