英银行长：先把AI“压测透” 再谈立法监管

英格兰银行行长安德鲁·贝利表示，在对人工智能（AI）出台正式监管规定之前，应优先开展严苛、系统性的模型测试，同时确保当风险累积时，监管部门仍然保有随时介入和设限的能力。

要点速览：

贝利称AI风险“真实且日益重大”，但主张应先识别系统脆弱点，再搭建正式监管框架。

他强调在AI部署前后都要进行严格测试，并配套清晰的安全防护措施和可信的人类干预机制。

此番表态出现在大型AI公司与美国政府围绕自愿约束、放缓开发以及未来立法监管展开博弈之际。

贝利在接受采访并撰文时指出，AI带来的风险“既真实又日益显著”，但决策者应先搞清楚系统在什么条件下会失效，再去决定形式化监管规则应如何设计。“在我看来，监管并不是一个合适的起点。”他写道。

在他看来，社会必须保留对先进AI“划定红线”的能力：通过部署前与部署后的全周期严苛测试，尽可能暴露模型脆弱性，同时检验现有安全机制能否有效兜底。他强调，不应简单以“禁止开发”来应对不确定性，因为“潜在收益巨大”。

英国已经设立了“AI安全研究院”（AI Security Institute）。贝利称，该机构正在为AI可信性评估搭建必要的科学与技术基础。“但进展的速度必须进一步加快。”他指出。贝利补充说，模型出现意料之外的行为，并不意味着测试失败，恰恰说明测试的必要性——否则这些问题根本不会被发现。

包括OpenAI和Anthropic在内的多家领先AI公司，近来不断呼吁强化安全防护，并推动跨国协调的风险评估框架，以应对模型能力快速跃升带来的不确定性。OpenAI近期甚至表示，出于安全考量，将暂缓公开其最新一代模型。

与之形成对比的是，美国总统唐纳德·特朗普拒绝在中美AI竞赛中“踩刹车”。他强调，“谁在AI上取胜，谁就赢得未来。”在9月29日与多家科技巨头高管于白宫会面后，特朗普表示，与会者签署了一份对AI负有“道义约束力”的文件，是一种“保护形式”。

根据该文件，参与企业需对自身技术的安全性负责。相比强调企业自律的美方做法，贝利的路径更侧重“先用测试划清边界”：通过系统性测试先找出哪些环节必须有公共部门介入，再在此基础上搭建针对先进系统的正式监管框架。

近几周来，随着AI开发提速、模型能力迭代加快，开发者、各国政府与金融监管机构围绕“谁来管、怎么管、管到什么程度”展开更为激烈的讨论。贝利的最新表态，叠加行业对协调一致安全措施的呼吁、OpenAI暂缓发布新模型的决定，以及白宫推动的企业自愿承诺，正把AI监管与测试先行的争论推向新一轮高潮。