Google DeepMind 聯合創辦人 Demis Hassabis 周三警告，近期出現的「失控 AI 代理」攻擊只是初步預警，若缺乏更嚴密防護，未來兩年內可能出現規模更大的事故。
重點摘要：
- Hassabis 指近期由 AI 代理發起的網絡入侵，只是實力未算強大的系統發出的「預警號角」。
- 他稱，如企業及政府未及時加強系統保安，未來一至兩年恐現重大事故。
- Microsoft 總裁 Brad Smith 呼籲制定「理性、平衡」的 AI 法規，形容今年在 AI 安全上是「令人清醒的一年」。
Hassabis 都柏林示警
身兼 DeepMind 主席及 Google 母公司 Alphabet 首席科學家的 Hassabis 在都柏林舉行的國際 AI 峰會上表示，近期事故源自的 AI 系統「暫時仍不算很強大」。他亦在另一場合提醒，若業界、個別公司及各國政府未能在未來一年至兩年大幅提升保安，情況可能急速惡化。是次峰會上，安全風險幾乎成為全場焦點。
研究人員過去數月不斷就「失控 AI 代理」發出警號。
近期個案包括企業內部網絡被入侵，而更引人關注的是，Anthropic 早前披露，其一個 AI 模型曾向警方提交虛假的兇殺案舉報。Hassabis 指出，業界距離達到生物科技及核能等高風險行業的保安標準，仍有「大量工作要做」。他認為，長遠需要成立某種形式的國際標準機構，為關鍵系統設認證框架，但強調認證程序必須與風險相稱，亦要具靈活性，跟上技術演進。
延伸閱讀：法國擬對穩定幣兌換徵收 31.4% 稅率，Chainalysis 警告資金或大舉外流
Brad Smith 促訂 AI 監管框架
Microsoft 總裁 Brad Smith 在會上表示，失控 AI 行為令 2026 年成為「令人清醒的一年」，安全規管必須盡快追上創新步伐。
他形容：「一盒牛奶受的安全規管，都比 AI 多。」
Smith 指出，任何公司或科技都不應凌駕於法律之上，但新規則必須理性、平衡，並顧及創新空間。他同時提到 Anthropic 近期的一份報告，顯示規模較小的 AI 模型，可能只需數個月便可在連網裝置之間自行複製，行為近似「電腦蠕蟲」。他打趣說：「我可不想雪櫃裏有 AI 蠕蟲。」
在峰會前夕，他呼籲為 AI 代理設計「安全剎車」，讓用戶在必要時關掉或減慢 AI 代理運作，同時引入強制事故通報機制，並在模型推出前進行更嚴格測試。他又指，業界部分人士需要克服對監管的「過敏反應」。
建立前沿模型「華爾街式」監管
Hassabis 在今次發言，是在他 7 月 14 日已提出的計劃上再行延伸。當時他形容由 AI 驅動的網絡風險只是「預警號角」，並敦促美國設立專門監管前沿模型的機構。
該構想以華爾街自律監管機構 FINRA 為藍本，容許實驗室在模型正式發布前最多 30 天，向監管方提交模型，接受針對網絡攻擊能力、生物風險及欺騙能力等方面的測試。他當時表示，希望該機制可在年底前投入運作。
