Claude 論文點燃 AI 意識辯論,Anthropic 不願全面擁抱

Claude 論文點燃 AI 意識辯論,Anthropic 不願全面擁抱

Anthropic 發布了一項研究,描述 Claude 中一個隱藏的「工作空間」,但論文中使用的語言引發爭議:讀者可能會如何解讀 AI 的「推理」過程。

重點整理:

  • Anthropic 的論文指出 Claude 使用與工作空間向量相關的內部 J-Space。
  • 公司表示,這些發現並不能證明 Claude 擁有體驗或情感。
  • 批評者警告,「在它的頭裡」之類的說法會模糊運算與意識之間的界線。

Claude 的 J-Space

論文檢視了 Anthropic 所稱的 Claude 內部 J-Space。依據 Pearl 的解讀,這個概念將背景處理與更刻意的邏輯活動區分開來,並將其與「全球工作空間理論」進行比較。

該理論是人類意識的一種解釋:無意識歷程彼此競爭,直到某些資訊變得可被注意與控制。這樣的比較把 Claude 置於關於機器意識的辯論中心。

Anthropic 對外的說法比冷冰冰的技術摘要走得更遠。在 X 上的一篇貼文中,公司表示研究人員可以觀察 J-Space,看到 Claude「在它的頭裡默默執行推理步驟」,包括找出程式錯誤與識別圖像。Pearl 認為,「在它的頭裡」這樣的措辭跨出了一大步,因為語言模型沒有身體,也沒有任何主觀經驗的證據。

延伸閱讀:C 羅有哭嗎?Polymarket 交易員為爭議影片押上 540 萬美元

Anthropic 的說法

與論文搭配發布的部落格文章,同樣使用偏向人類心理狀態的語言,宣稱模型可以把一個概念「記在心裡」,並進行「心算」。Pearl 表示,提示可以讓模型模擬各種行為,但那並不代表系統真的具備這些用語所暗示的特質。

批評並不是說這篇論文沒有價值,而是 Anthropic 的呈現方式可能會讓一般讀者把可解釋性成果誤當成機器意識的證據,即使公司自己也表示,實驗並未顯示 Claude 會感覺或擁有體驗。

這項憂慮也呼應了外界對 Anthropic 公開姿態的更廣泛辯論。公司內任職的哲學家 Amanda Askell 就曾談到,希望 Claude 能「非常快樂」,並擔心線上的敵意言論。

Anthropic 並未聲稱自己打造出有意識的軟體,其官方部落格也指出,目前尚不清楚是否存在任何實驗,可以證明或證偽這類主張。較謹慎的解讀是:J-Space 提供了一個檢視模型行為的技術視角,而非 Claude 擁有心靈的證據。這個問題之所以重要,是因為 AI 公司愈來愈常用擬人化語言描述模型行為,同時又在爭取信任、寬容與資本。

接著看:美國隊對比利時預測市場升溫,川普禁賽爭議成焦點

免責聲明與風險警告: 本文提供的資訊僅供教育與參考用途,並基於作者觀點,不構成財務、投資、法律或稅務建議。 加密貨幣資產具有高度波動性並伴隨高風險,包括可能損失全部或大部分投資金額。買賣或持有加密資產可能並不適合所有投資者。 本文中所表達的觀點僅代表作者立場,不代表 Yellow、其創辦人或管理層的官方政策或意見。 請務必自行進行充分研究(D.Y.O.R.),並在做出任何投資決策前諮詢持牌金融專業人士。
Claude 論文點燃 AI 意識辯論,Anthropic 不願全面擁抱 | Yellow.com