Google DeepMind 共同創辦人 Demis Hassabis（哈薩比斯） 週三警告，近期由「失控 AI 代理」（rogue AI agents）發動的駭侵事件，其實只是「預警信號」。若缺乏更強的防護機制，未來兩年內可能出現嚴重事故。
重點整理：
- 哈薩比斯稱，近期 AI 代理駭侵屬「預警」，而且發生在「能力還不算強」的系統上。
- 他警告，若企業與政府不及時強化防護，未來數年內恐爆發重大事件。
- 微軟總裁 Brad Smith 稱 2026 年是「令人清醒的一年」，呼籲制定合理、平衡的 AI 法規。
哈薩比斯：都柏林發出 AI 風險警訊
同時身兼 Alphabet（Google 母公司）首席科學家的哈薩比斯在都柏林舉行的國際 AI 高峰會上指出，近期相關事件來自「目前能力還不算強」的系統。他並警告，若產業界、個別公司與各國政府不加速強化安全防護，情況明年起以及接下來幾年恐將急遽惡化。本次會議幾乎被 AI 安全議題全面主導。
研究人員已連續數月對「失控 AI 代理」風險頻頻拉警報。
近期案例包括企業內網遭駭，以及 Anthropic 最新披露的一起事件：某 AI 模型竟向警方提交虛假的兇殺線索。哈薩比斯坦言，目前整個產業在關鍵系統防護上，距離生命科學與核能等高風險領域的安全標準仍有「很大差距」。他認為，未來某種形式的國際標準機構勢在必行，不過其認證程序必須與風險「相稱」，並能隨技術發展快速調整。
延伸閱讀：法國擬對穩定幣兌換課 31.4% 重稅，Chainalysis 警告資金恐外逃海外
微軟 Brad Smith 再推 AI 監管
Microsoft（微軟） 總裁 Brad Smith 在會中表示，失控 AI 行為讓 2026 年成為「令人清醒的一年」，安全規範現在必須追上創新腳步。
「現在一盒牛奶受到的安全管制，都比 AI 還多，」他在受訪時指出。
Smith 強調，沒有任何公司或技術應該凌駕法律之上，但新規範必須「合理、平衡」，同時顧及創新空間。他並提到 Anthropic 近期一份報告指出，小型 AI 模型可能在數個月內就有能力像電腦蠕蟲一樣，從一台連網裝置自我複製到另一台裝置。「我不想在冰箱裡看到 AI 蠕蟲，」他半開玩笑地說。
在高峰會登場前夕，他呼籲建立「安全煞車」（safety brakes）機制，讓使用者可以關閉或降低 AI 代理權限，同時要求強制通報重大事故，並在模型上線前施以更嚴格測試。他並補充，產業內有些人對監管「過敏」，是時候調整心態。
都柏林的談話，也延續了哈薩比斯在 7 月 14 日提出的監管構想——當時他把 AI 主導的網路攻擊稱為「警告信號」，並呼籲美國設立專責「前沿模型」的監管機構。該機構將以華爾街自律監管機構 FINRA 為藍本，允許實驗室在模型正式發佈前最多 30 天，先提供給監管單位測試其網路攻擊、生物風險與欺騙能力。他表示，希望這套機制能在今年底前投入運作。
