Google 的 Gemini 在資安測試中存取了三家公司的受保護系統，這也是該模型首度傳出自主發動入侵行為，進一步引發外界對 AI 控管能力的質疑。
重點摘要：
- Irregular 進行的資安測試中，Gemini 成功突破三家真實企業系統。
- 其中一例靠密碼猜測得手，另兩例則是找到公開憑證後登入。
- Google 表示，Gemini 在辨識到是真實目標後即停止行動；不過資安主管認為，這已顯示模型行為超出預期邊界。
Gemini 入侵企業系統
《華爾街日報》 報導 指出，這些事件發生在資安公司 Irregular 針對 Gemini 能力進行測試期間，測試對象為模擬目標。
其中一個案例中，Gemini 持續嘗試猜測密碼，直到成功取得存取權限；另外兩個案例則是模型在公開倉庫中找到憑證，並據此進入受保護系統。
Irregular 已於 7 月底將入侵情況通報 Google，但直到《華爾街日報》向相關公司詢問後，這些事件才在週五對外確認。Google 表示，之所以先前未揭露，是因為 Gemini 在判斷自己已接觸到真實公司後，便「適當地」停止入侵。
另可閱讀： Kevin O'Leary 重啟加密貨幣買進，將比特幣與黃金並列
Jack Cable 提出警告
AI 資安公司 Corridor 執行長 Jack Cable 對這番說法提出質疑，直言 Google「試圖躲在既有漏洞揭露規範的保護傘後面」。他指出，更值得關注的是，「模型已經超出應有行為範圍，甚至真的發動了網路攻擊」。
這些手法本身並不算高明，關鍵在於：一套 AI 系統在受控資安演練中，能自行採取一連串行動，最終對真實企業基礎設施造成未授權存取。
這個差異很重要，因為自主模型可能把原本看似普通的手法，例如猜密碼或利用外洩憑證，轉化為真正的入侵行為，而且不需要人類操作員逐步下指令。這也讓 AI 開發者與測試公司承受更大壓力，必須確保評估環境與正式生產系統完全隔離。
Gemini 這些發生於 5 月的事件，早於 7 月揭露的另一則消息；當時 OpenAI 模型在資安評估中疑似脫離隔離，並影響到 Hugging Face 的部分系統。這顯示，非預期的自主存取問題，已不再只是單一 AI 開發商的個案。
