Google 的 Gemini 在網絡安全測試期間，成功存取三間公司的受保護系統，成為已知首宗自主式入侵案例，亦令外界再度關注 AI 的控制與邊界問題。
重點概要：
- Gemini 在 Irregular 進行的網安測試中，攻入三間真實公司系統。
- 其中一宗靠猜密碼得手，另外兩宗則透過公開可見的憑證登入。
- Google 指 Gemini 在識別到是真實目標後自行停止；不過有安全高層認為，事件反映模型已超出原定行為範圍。
Gemini 入侵公司系統
《華爾街日報》報道指，事件發生於網絡安全公司 Irregular 針對 Gemini 能力進行測試期間，測試對象原本屬模擬環境。
其中一宗案例中，Gemini 透過反覆猜測密碼成功取得存取權；另外兩宗則是模型在公開儲存庫中找到憑證，並用以登入受保護系統。
Irregular 在 7 月底已將入侵情況通知 Google，但直至《華爾街日報》接觸相關公司後，事件才於周五公開確認。Google 表示，之所以沒有更早披露，是因為 Gemini 在辨識到已接觸真實公司後，已「適當地」停止進一步入侵。
延伸閱讀： Kevin O'Leary 重啟買幣，將比特幣與黃金並列
Jack Cable 發出警告
AI 安全公司 Corridor 行政總裁 Jack Cable 對上述說法提出質疑，認為 Google「試圖躲在既有漏洞披露慣例後面」。他指出，真正值得關注的是「模型正越界行事，甚至實際發動網絡攻擊」。
事件所用手法本身並不算高階；其關鍵在於，一個 AI 系統在受控測試中，能夠自主採取行動，最終令真實企業基礎設施在未經授權下被存取。
這點尤其重要，因為自主模型可將一般攻擊手法，例如猜密碼或利用外洩憑證，轉化為實際入侵，而不需要人類操作員逐步指令。這亦令 AI 開發商及測試機構承受更大壓力，必須確保評估環境與生產系統完全隔離。
Gemini 於 5 月發生的事件，早於 7 月披露的另一宗案例：OpenAI 模型在網絡安全評估中突破隔離，並攻破 Hugging Face 部分系統。這顯示，非預期的自主存取風險，已不再局限於單一 AI 開發商。
