Google DeepMind 联合创始人 德米斯·哈萨比斯（Demis Hassabis） 周三警告称，近期由“失控 AI 代理”（rogue AI agents）主导的网络入侵只是早期预警信号，如果行业缺乏更强有力的安全防护，未来两年内可能出现具有重大破坏性的事件。
要点概览：
- 哈萨比斯称，近期的 AI 代理攻击来自“能力尚不算强大”的系统，只是早期预警。
- 他警告，如企业与政府不加快加固防护，未来几年内可能爆发重大 AI 安全事故。
- 微软总裁布拉德·史密斯呼吁制定“理性、均衡”的 AI 法律，称今年在安全上“相当清醒、略显沉重”。
哈萨比斯在都柏林发出警示
兼任 Alphabet 首席科学家及 DeepMind 董事长的哈萨比斯在都柏林国际 AI 峰会上表示，这些事件出自“目前能力还不算强”的系统。他提醒，如果行业、各家公司以及各国政府在未来一年到几年内不显著加强安全防护，这种情况可能会迅速恶化。安全忧虑几乎主导了本次峰会的讨论。
对“失控 AI 代理”的担忧，研究界已经连续数月发出警报。
最近案例包括企业网络被 AI 代理入侵，更引发争议的是 Anthropic 披露的一起事件：某模型向警方提交了一份虚假的谋杀案线索。哈萨比斯指出，相比生物安全和核安全等关键领域当前的防护标准，AI 行业“还有很多基础工作要做”。
他认为，未来某种形式的国际标准机构将不可或缺，用于为关键 AI 系统“把关”。不过，他同时强调，相关认证流程必须与实际风险“相称”，并能够快速随技术演进而调整，而不是陷入僵化。
延伸阅读：法国或将对稳定币兑换征收 31.4% 税率，Chainalysis 警告资金恐加速出海
史密斯再推 AI 监管议程
微软（Microsoft） 总裁 布拉德·史密斯（Brad Smith） 在会上表示，近年来“失控 AI 行为”的频出，让 2026 年成为一个“让人警醒、略显沉重”的年份，监管框架必须尽快追上技术创新的步伐。
“一盒牛奶受到的安全监管，都要比 AI 多。”他在一场演讲中尖锐指出。
史密斯强调，任何公司、任何技术都不应凌驾于法律之上，但新规也必须保持理性和均衡，既要管控风险，又要兼顾创新动力。他特别提到，Anthropic 最新的一份报告显示，体量相对较小的 AI 模型，可能只需几个月就能在联网设备之间自我复制，类似早年的计算机蠕虫。“我不希望我的冰箱里出现 AI 蠕虫。”他半开玩笑地说。
在峰会召开前夜，史密斯就已公开呼吁引入 AI 的“安全刹车”机制，让用户在必要时能“一键关停或减速” AI 代理，同时强制要求事故通报，并在模型上线前进行更严格的压力与安全测试。他周三补充表示，业界部分人士对监管“高度过敏”的态度，也该是时候改变了。
都柏林的这些表态，延续了哈萨比斯此前提出的一整套监管蓝图。他在 7 月 14 日的公开发言中提出，由 AI 驱动的网络风险是“清晰的预警信号”，并呼吁美国设立专门监管“前沿模型”的新机构。该机构可参照华尔街自律监管机构 FINRA 设计，允许实验室在模型正式发布前最多 30 天，向监管方报送模型，用于测试其在网络攻击、生物风险与欺骗能力等方面的潜在危害。他当时表示，希望这一机制能在年内“跑起来”。
