Anthropic與OpenAI執行長罕見同調:呼籲放緩AI發展以因應安全隱憂

Industry leaders debate how an AI slowdown could work amid safety fears and global competition. (Image: Shutterstock)
Industry leaders debate how an AI slowdown could work amid safety fears and global competition. (Image: Shutterstock)

Anthropic執行長 Dario Amodei呼籲放緩人工智慧發展步伐,並提出三大監管架構,獲得競爭對手力挺, 卻同時引發外界對執行力、競爭態勢與經濟代價的質疑。

重點摘要:

  • Amodei主張導入獨立模型監測、產業統一規則與全球監管架構。
  • Sam AltmanElon Musk表態支持減速,但批評者認為方案缺乏可強制執行的具體界線。
  • 美中科技競賽與各國對AI投資的依賴,使「協調放緩」在政治與商業上極具難度。

Amodei拋出「AI減速」藍圖

Amodei於9月12日在接受英國廣播公司報導時,公開呼籲應放慢AI發展速度, 此一立場隨即獲得OpenAI執行長Sam Altman與Elon Musk支持。前Anthropic研究員Jacob Coxon對BBC表示, 目前打造尖端系統的團隊成員,對人類未來「是真心感到恐懼」。

Amodei提出三層架構:在模型開發過程中導入獨立監測機制、制定全產業共通規則,並推動全球性監管。 該構想著眼於加強外部制衡,卻尚未回答誰有權劃定研發上限、如何阻止競爭對手與他國持續衝刺等關鍵問題。

國際軍備式競賽成為最大阻力之一——美國政策重心在於維持對中國的領先,而企業則憂心若單方面踩煞車, 等同拱手讓出市場與技術優勢。9月13日,美國總統Donald Trump宣稱,美國在AI領域領先中國一句, 他直言:「誰贏了AI,誰就贏一切。」

延伸閱讀:比特幣徘徊7萬7千美元附近 多頭訊號仍未獲確認

Zitron質疑:減速概念過於含糊

EZ Primary Research執行長Ed Zitron表示,目前這套減速提案「模糊到無法評估」。 「沒有人真正說清楚,所謂『放慢』到底是什麼意思。」他並指出,若凍結模型訓練,美國公司停下腳步, 反而可能讓中國實驗室有機會追上,複製並優化現有產品。

Zitron也提醒,研發動能若刻意壓低,可能衝擊定價模式,進一步損害本就脆弱的AI商業模型。 「這有可能戳破目前的AI泡沫。」他說,產業至今仍欠缺一套可以落實執行的「減速」操作定義。

爭議不只侷限在安全政策。合成影音平台Synthesia高層Alexander Voica指出, 監管機關至今仍難以預測更強大的系統會被如何運用,若在理解不足下倉促立法,「很可能適得其反」。 Sustainable AI創辦人Sasha Luccioni則表示,相較於「人類滅絕風險」,她更擔心企業逐利動機帶來的系統性危害。

在英國,AI被政府視為推動醫療、職場生產力與整體經濟政策的重要工具,因此一旦談到全面減速, 問題就不只關乎安全,同時也是「要不要放慢成長」的政治與產業決策。 資訊科學家Wendy Hall認為,企業應對自家系統負起完全責任,並以農夫未妥善看管失控公牛為喻, 主張放任具有破壞力的系統失控,應視為企業本身的失職。

另一方面,也有聲音批評監管方向走得太遠。Capital Research Centre研究員Parker Thayer 指控,部分政治勢力正企圖「把AI管到窒息為止」。BBC則將這類說法形容為高度誇張且缺乏證據。 整體辯論如今橫跨安全風險、國家競爭、投資回報與企業責任等層面,卻仍缺乏一套被普遍接受的機制, 來決定AI發展究竟該放慢到什麼程度。

這波風向轉變格外引人注目。2023年11月在布萊切利園(Bletchley Park)舉行的首屆全球AI安全高峰會, 當時焦點仍放在多數人認為「尚屬遙遠」的極端風險。三年後,站在產業最前線的AI執行長們, 已開始公開討論「減速」本身,而圍繞就業、監管與控制權的老問題,至今依然懸而未解。

下一篇:DeepSeek與Moonshot被指將Claude答案冒用為己有,Anthropic提出指控

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的內容總監,過去 10 年持續報導加密貨幣領域。他專長於撰寫深入的 Research 和 Learn 類型文章,特別關注分析式報導、產業脈絡,以及塑造加密貨幣世界的更大力量,從 AI 時代與資安技術到金融科技創新。他相信數位的一切即將全面超越類比的一切,並正為實現這一願景而全力以赴。

免責聲明與風險警告: 本文提供的資訊僅供教育與參考用途,並基於作者觀點,不構成財務、投資、法律或稅務建議。 加密貨幣資產具有高度波動性並伴隨高風險,包括可能損失全部或大部分投資金額。買賣或持有加密資產可能並不適合所有投資者。 本文中所表達的觀點僅代表作者立場,不代表 Yellow、其創辦人或管理層的官方政策或意見。 請務必自行進行充分研究(D.Y.O.R.),並在做出任何投資決策前諮詢持牌金融專業人士。
Anthropic與OpenAI執行長罕見同調:呼籲放緩AI發展以因應安全隱憂 | Yellow