英倫銀行行長安德魯.貝利表示,應先以嚴格的人工智能(AI)測試揭示風險與漏洞,其後才建立完整監管制度,同時要確保當局在風險擴大時仍能介入干預。
重點整理:
- 貝利指出AI風險不斷上升,但決策者應先弄清系統的脆弱點,再設計正式監管框架。
- 他主張在部署前後都進行嚴格測試,配合清晰保障機制及可信的人為干預點。
- 他的言論出現之際,主要AI公司與美國政府正就自律守則、放慢研發步伐及未來監管方向展開辯論。
貝利:AI要先測試 後監管
貝利在接受訪問時指出,AI風險「真實而且愈來愈重大」,但決策者應先找出系統可能失靈之處,再決定正式監管規則如何設計。他直言:「在我看來,監管並不是應該著手的第一步。」
他認為,社會必須維持為高階AI設下邊界的能力,透過部署前及部署後的嚴格測試,暴露系統弱點,並檢驗現有防護措施能否將失誤控制在可承受範圍。他強調,不應禁止AI發展,因為「其潛在收益極為龐大」。
英國已成立「AI 安全研究院」(AI Security Institute),貝利指該機構正協助建立AI可信度所需的科學及技術基礎。不過他稱,「進展步伐必須加快。」在他看來,模型出現意料之外的行為,並不代表測試失效,反而正好證明測試環節不可或缺。
延伸閱讀: Ripple 協助巴西CSD BR在公有區塊鏈上鏡像基金持倉
OpenAI與AI安全之爭
包括 OpenAI、Anthropic 在內的多家領先AI企業,近月一直呼籲加強安全保障,並推動跨國協調風險評估,以回應市場對高能力模型的憂慮。OpenAI早前更表示,基於安全考量,暫不公開其最新AI模型。
美國總統唐納.特朗普則拒絕放慢美國在AI領域與中國競爭的步伐,強調「誰在AI勝出,誰就贏得一切」。在9月29日與多家科企高層於白宮會面後,特朗普表示,與會者已簽署一份具「道德約束力」的AI文件,形容是某種形式的「保護」。
根據該協議,參與企業須為自身技術的安全負責。相較之下,貝利的取態更著重藉由測試先界定何處需要干預,然後才在高階系統之上搭建更正式的監管架構。
近數週,隨著AI開發者、各國政府及金融監管機構面對模型加速演進與監管難題,相關爭論急速升溫。貝利的最新表態,是在多項動態之後作出——包括業界要求協調安全措施、OpenAI決定暫緩發布新模型,以及白宮推動以企業自律為主的AI管控框架。

