前 Google DeepMind 安全研究員 Bilal Chughtai 直言，若現況不變，人工智慧最終可能將人類徹底消滅；另一名前實驗室研究員則預期，在未來五年內就可能出現極具破壞性的嚴重風險。
重點整理：
- Chughtai 已於 7 月離開 DeepMind，認為超級智慧型 AI 可能在未來數年內出現。
- 他指出，對齊與安全研究遠遠落後於能力發展，主張各方協調放慢腳步，而非全面暫停 AI 研發。
- 前 DeepMind 研究員 Josh Engels 認為，未來五年內存在「巨大傷害」風險；Anthropic 與 OpenAI 內部人士也紛紛呼籲放緩能力擴張。
Chughtai 的 AI 風險示警
曾專注於通用人工智慧安全與對齊議題的研究工程師 Chughtai，本月在離開 DeepMind 後公開撰文發出警告。他先前在 DeepMind 的工作重心，正是如何讓強大 AI 系統與人類價值保持一致，相關背景可見他過去的研究焦點。
他表示，頂尖 AI 實驗室可能在未來幾年內，就打造出超級智慧系統——在幾乎所有領域全面超越人類，但卻依然難以確保其行為符合人類目標與價值。
Chughtai 點出核心問題是「對齊」（alignment）。他寫道：「我真誠地相信，AI 的確有能力把我們全部殺光，而我們可能所剩時間已不多，無法避免這種結果。」
依他的看法，目前用來讓先進系統穩定追求人類目標的技術，「仍然極為粗糙、原始」，前沿模型的能力提升速度，遠超過研究界對對齊與安全機制的理解與掌握。他並不主張完全停止 AI 發展，而是呼籲企業之間「協調降速」：放慢激烈的軍備競賽，並大幅提高前沿系統研發與測試流程的透明度。
延伸閱讀： CLARITY Act Faces 60-Vote Senate Test As Opposition Grows
Anthropic 的安全壓力升高
Chughtai 的發聲，緊接著另一名知名安全研究員 Jacob Coxon 在本月初請辭。Coxon 過去三年間先後任職於 Anthropic 與 OpenAI，負責對齊與安全領域研究。Anthropic 的 alignment 團隊負責人 Evan Hubinger 隨後公開表示，他認為在未來十年內，AI 導致「人類全滅」的機率高於 10%。
另一名前 DeepMind 安全團隊成員 Engels 則在 9 月 12 日透露，他拒絕了 Anthropic 與 OpenAI 的工作機會，改加入評估機構 METR（Model Evaluation and Threat Research）。他稱，目前存在在五年內出現「極度可怕」AI 傷害的實質可能。
Anthropic 執行長 Dario Amodei 先前已多次呼籲業界，必須放緩能力推進的節奏；OpenAI 執行長 Sam Altman 也公開支持類似立場。值得注意的是，如今發出警訊的，不僅是仍在位的高層，更包括選擇離開實驗室的安全研究員，顯示內部對風險評估的分歧與壓力正在加劇。
能力暴衝與安全研究「失速差距」擴大
目前這波強烈示警，對照 2022 年初的情況，顯得格外鮮明。Chughtai 回顧自己在 2022 年開始投入 AI 時，當時的模型能力仍遠不及現今的前沿系統。短短四年間，焦點已從偏重長期理論風險，轉移到極為具體的問題：系統自主性、目標對齊、以及安全研究能否跟上能力飆升的速度。
隨著更多業內研究員選擇離職並公開憂慮，產業內部對是否應「先把安全做好，再談更強能力」的辯論，已從技術圈擴散至監管與政策層面。如何在創新與生存風險之間拿捏平衡，正成為全球 AI 監理架構必須正面回應的關鍵課題。
下一篇： Bitget's API Now Reaches Gold, Forex, Indices And Crude Oil
