**英格蘭銀行(Bank of England)總裁安德魯.貝利(Andrew Bailey)**表示,對人工智慧(AI)的監理不應從堆砌新規則開始,而應先以嚴格測試釐清風險輪廓,同時確保當風險升高時,主管機關仍有足夠空間與工具可以及時出手。
重點整理:
- 貝利指出,AI 風險正在升溫,但決策者應先透過測試辨識脆弱點,再來設計正式監管架構。
- 他主張在 AI 上線前與運行期間都進行高強度測試,並建立清楚防護措施與可信賴的人工介入機制。
- 其談話出現在大型 AI 業者與美國政府,正就自律管控、放慢研發腳步及未來強制監管路徑激烈辯論之際。
貝利:AI 要先測再管
貝利在接受英國媒體專訪時表示,AI 帶來的風險「真實且日益重大」,但決策者應先弄清系統在哪些情境下可能失靈,再決定正式規範應長成什麼樣子。他直言:「在我看來,監管並不是啟動這場工作的起點。」
他主張,社會必須維持對先進 AI 設下邊界的能力,做法之一就是在部署前後進行嚴格壓力測試,藉此揭露系統弱點,並驗證現有防護機制是否足以把失敗控制在可承受範圍內。貝利強調,不應因為風險存在就一刀切禁止發展,「因為其潛在效益極為龐大」。
英國已成立「AI 安全研究院(AI Security Institute)」,貝利指出,該機構正在協助建立 AI 可信度與安全評估的科學與技術基礎。但他也提醒,「進展速度必須加快。」在他看來,模型出現預期外行為,不代表測試失敗,反而證明「為何測試是必要條件」。
延伸閱讀:Ripple 協助巴西 CSD BR 在公有區塊鏈鏡射基金持有人結構
OpenAI 掀起 AI 安全爭論
包括 OpenAI、Anthropic 在內的多家 AI 領頭企業,近來紛紛呼籲強化安全防護,並推動跨國協調的風險評估機制,因為外界對「超強大模型」的疑慮與日俱增。OpenAI 近期便宣佈,由於安全考量,暫不對外發布旗下最新一代 AI 模型。
在美國方面,總統**唐納.川普(Donald Trump)**則明確反對為了安全而刻意放慢美國在與中國競賽中的 AI 發展步伐,強調「誰在 AI 競賽中勝出,誰就贏得未來。」他在 9 月 29 日與多家科技龍頭於白宮會面後表示,與會者簽署了一份對 AI 負責的「道德約束」文件,形容那是一種「保護形式」。
根據這項協議,參與企業須對自家 AI 技術的安全性負最終責任。相較之下,貝利的主張雖不反對企業自律,但更強調要先用測試來界定哪些領域必須由監管介入,之後再在此基礎上打造更完備、具約束力的監管理念與制度。
近幾週來,隨著 AI 模型迭代加速,監理難題愈發棘手,AI 開發者、各國政府與金融監管機構之間的討論明顯升溫。貝利此次公開發言,接續了產業界要求協調式防護措施的呼聲、OpenAI 延後發布模型的決定,以及白宮推動由企業主導、自願遵守的 AI 安全承諾。

