Google DeepMind 聯合創辦人 Demis Hassabis（哈沙比斯） 周三警告，近期涉及所謂「失控 AI 代理」（rogue AI agents）的網絡入侵事件，只是早期示警；若業界和政府未在未來兩年內大幅加強防禦和管治，規模更大的事故很可能接踵而來。
重點摘要：
- 哈沙比斯形容近期多宗 AI 代理入侵只是「預警」，而且相關系統現階段威力仍屬有限。
- 他指，若企業及政府未正視風險、加強保安，未來一兩年內或會出現重大事故。
- 微軟總裁布拉德・史密斯促推「理性、平衡」的 AI 法規，稱今年對行業而言是「令人警醒的一年」。
哈沙比斯都柏林示警：現時威力有限、未來或大變樣
身兼 DeepMind 董事長及 Alphabet（Google 母公司）首席科學家的哈沙比斯，在都柏林舉行的國際 AI 高峰會上指出，近期事故來自的 AI 系統「其實仍不算強大」。他其後再補充，情況可能最快下年開始急轉直下；如果整個行業、各家企業以及各國政府仍未加碼投放資源加固這些系統，未來幾年出現大規模事件的風險明顯上升。會場上，有關 AI 安全的憂慮幾乎壟斷所有討論。
研究人員近月不斷就「失控 AI 代理」響起警號。
實際個案包括企業網絡被攻陷，最新一宗則涉及 Anthropic 披露有 AI 模型向警方提交虛假的謀殺案舉報。哈沙比斯稱，業界距離關鍵基礎設施領域——例如生物科技及核能產業——所採用的保安標準，仍有「很長一段路」要走。他相信，未來最終需要成立某類國際標準機構，為高風險 AI 系統把關；但他同時強調，有關審批機制必須與實際風險相稱，而且要能隨科技演進快速調整。
延伸閱讀：法國擬對穩定幣兌換徵收 31.4% 稅，Chainalysis 警告資金或大舉外逃
微軟布拉德・史密斯：AI 需要「安全煞車掣」
Microsoft（微軟） 總裁 Brad Smith（布拉德・史密斯） 在會上表示，「失控 AI 行為」令 2026 年成為「令人警醒的一年」，如今安全規管必須追上創新步伐。
「一盒牛奶受到的安全規管，可能比 AI 還要多。」他在會上直言。
史密斯強調，無論任何企業或科技，都不應凌駕法律之上；但新規則必須理性、平衡，同時兼顧創新空間。他提到 Anthropic 近期一份報告指，小型 AI 模型距離能在連網裝置之間自我複製、像電腦蠕蟲般橫向擴散，可能只相差數個月時間。他打趣說：「我可不想家中的雪櫃被 AI 蠕蟲入侵。」
在峰會前夕，他已公開呼籲，必須為 AI 代理設計「安全煞車掣」，讓用戶在需要時可以關停或降速運作；同時引入強制事故匯報機制，以及在模型正式推出前進行更嚴格的壓力測試。他又狠批部分業界人士「對監管過敏」，認為行業需要儘快克服這種排斥情緒。
都柏林這番談話，亦延續了哈沙比斯早前在 7 月 14 日提出的監管藍圖——當時他已把 AI 驅動的網絡風險形容為「警告信號」，並呼籲美國設立一個專門監管最前沿模型的機構。該構想以華爾街自律監管機構 FINRA 為藍本，讓大型實驗室在模型發佈前最多 30 日，把系統交由監管方測試其網絡攻擊、生物風險及欺騙能力。他表示，希望該機構可以在今年底前投入運作。
