英国央行行长**安德鲁·贝利(Andrew Bailey)**表示,在出台正式监管框架之前,应优先通过严格测试来检验和暴露人工智能(AI)模型的风险和脆弱点,同时确保监管部门始终保留在风险放大时及时介入的权力。
要点概览:
- 贝利指出,AI风险正在不断上升,但决策者应先查清系统的薄弱环节,再考虑如何搭建正式监管框架。
- 他主张在AI部署前后都进行高强度测试,并配套清晰的安全防线和可信赖的人类干预机制。
- 他的表态出现在大型AI公司与美国政府就自律约束、放慢开发节奏以及未来监管路径展开博弈之际。
贝利:AI先测后管
贝利在接受采访时表示,AI带来的风险“真实存在且日益重大”,但政策制定者应先弄清系统在哪些环节可能失灵,再决定正式规制应如何设计。他写道:“在我看来,从监管本身入手并不是正确的起点。”
他认为,社会需要始终保有为高阶AI划定“红线”的能力,而这种能力要通过部署前后的“压力测试”和穿透式评估来实现,以暴露潜在漏洞,并检验现有安全机制能否有效兜底。他强调,不应以风险为由“一刀切”禁止AI发展,因为“其潜在收益极其巨大”。
英国已设立“AI安全研究院”(AI Security Institute),贝利称,其正在为AI可信评估搭建科学与技术基础。“但进展的速度必须加快。”他写道。贝利补充称,模型出现意料之外的行为,并不意味着测试失败,恰恰证明测试的必要性与常态化的重要性。
延伸阅读:Ripple 助力巴西 CSD BR 在公有链上镜像基金持有人结构
OpenAI 等巨头的安全分歧
包括OpenAI和Anthropic在内的多家头部AI公司,近年来不断呼吁强化安全护栏,并推动跨国风险评估协调机制,缘于对高能力模型失控风险的担忧升温。OpenAI 近期更表示,出于安全顾虑,将暂缓发布其最新一代AI模型。
美国总统**唐纳德·特朗普(Donald Trump)**则否决了“为安全减缓美国AI发展”的主张,强调在与中国的竞赛中,“谁赢得AI,谁就赢得一切”。在9月29日与多家科技巨头高管于白宫会面后,特朗普表示,参会企业签署了一份“在道德层面具有约束力”的AI文件,称之为一项“保护形式”。
按这一协议,参与企业需对自身技术的安全性负责。与之相比,贝利的侧重点有所不同:他要求通过系统性测试先厘清应当何时、何地以及如何介入,然后再据此搭建更正式、更具针对性的高阶AI监管架构。
随着模型能力迭代提速,AI开发企业、各国政府以及金融监管机构在监管边界与责任划分上的讨论明显升温。贝利此番发声,紧接着行业对“全球协调安全护栏”的呼吁、OpenAI 决定暂不发布新模型,以及白宫推动以企业自律为主的“自愿性管控”之后,进一步凸显了“先测再管”的路径之争。

