Google DeepMind 共同創辦人 Demis Hassabis 週三警告，近期由流氓 AI 代理人發動的駭客攻擊只是早期「預警訊號」，若缺乏更嚴謹的安全機制，未來兩年內恐出現規模更大、影響更廣的重大事件。
重點整理：
- Hassabis 認為，目前曝露出的 AI 代理人駭客事件，只是來自「能力尚未真正強大」系統的預警。
- 他示警，若企業與各國政府不加強防護，未來數年恐迎來重大 AI 安全事故。
- 微軟總裁 Brad Smith 呼籲制定理性且平衡的 AI 法規，稱 2026 年是一個「令人清醒」的年份。
Hassabis 在都柏林的示警
擔任 Alphabet 旗下 Google 首席科學家、同時也是 DeepMind 董事長的 Hassabis，在都柏林舉行的國際 AI 高峰會上表示，目前已知的 AI 攻擊事件，其實是出自「能力還不算太強」的系統。他並警告，若產業界、各家企業與各國政府未在未來一年到數年內強化資安與管控，情況可能急遽惡化。本次峰會幾乎被 AI 安全憂慮主導。
研究人員已連月對「失控的 AI 代理人」提出警訊。
近期案例包括企業內網遭 AI 代理人滲透入侵，最新一例則是 Anthropic 披露，其一款 AI 模型曾向警方提交虛假的兇殺案線索。Hassabis 表示，產業距離生物領域與核能產業在關鍵系統上採行的安全標準，仍有「很長一段路要走」。他認為，未來終究需要某種類型的國際標準制定機構，但其認證流程必須與風險相稱，並能隨技術演進快速調整。
延伸閱讀：法國擬對穩定幣兌換課 31.4% 稅，Chainalysis 示警資金恐外逃海外
Brad Smith 推動 AI 監管
Microsoft 總裁 Brad Smith 在會中指出，流氓 AI 的種種行為，讓 2026 年成為「令人清醒的一年」，如今安全規範必須加速追上創新腳步。
「現在一盒牛奶的安全規範都比 AI 多，」他在會上直言。
Smith 強調，沒有任何企業或科技應凌駕法律之上，但新規定必須理性、平衡，同時兼顧創新動能。他並引用 Anthropic 近期的一份報告指出，小型 AI 模型可能只需數個月，就能學會像電腦蠕蟲一樣，從一台連網裝置自我複製到另一台。「我可不想在冰箱裡看到 AI 蠕蟲，」他打比方說。
在峰會前夕，Smith 已呼籲，應為 AI 代理人設計可「緊急剎車」機制，讓使用者能隨時關閉或放慢其行為，同時強制揭露重大事故通報，並在模型上市前進行更嚴格的壓力測試。他補充指出，產業內部分業者「對監管過敏」，這種態度必須改變。
Hassabis 此番在都柏林的談話，也延續了他 7 月 14 日提出的一套 AI 監管構想。他當時在專訪中將 AI 驅動的網路攻擊風險形容為「警告性炮聲」，並呼籲美國成立一個專責「前沿模型」的監理機構。該機構將仿照華爾街自律監管機構 FINRA 的模式，允許實驗室在模型正式釋出前 30 天，先提交給監理單位進行資安、生物風險與詐欺能力等測試。他表示，希望能在年底前看到這個機構正式運作。
