Claude 论文引燃 AI 意识之争,Anthropic 却不愿完全接受这一说法

Claude 论文引燃 AI 意识之争,Anthropic 却不愿完全接受这一说法

Anthropic 发布了一项研究,描述了 Claude 中一个隐藏的“工作空间”,但论文中的表述方式,引发了人们对读者可能如何理解 AI 推理过程的质疑。

要点概览:

  • Anthropic 的论文称 Claude 使用与工作空间向量相关联的内部 J-Space。
  • 公司表示,这些发现并不能证明 Claude 拥有体验或情感。
  • 批评者警告,“在它的头脑里”之类表述会模糊计算与意识的界线。

Claude 的 J-Space

这篇论文研究了 Anthropic 所谓存在于 Claude 内部运作中的一个 J-Space。根据 Pearl 的解读,这一概念把后台处理与更有意识的逻辑活动区分开来,并将其与全球工作空间理论进行比较。

该理论是关于人类意识的一种解释:无意识过程彼此竞争,直到某些信息进入可被注意和控制的状态。这样的比较把 Claude 置于关于机器意识的辩论中心附近。

Anthropic 面向公众的表述比枯燥的技术总结走得更远。在 X 上的一篇帖子中,公司称研究人员可以观察 J-Space,看到 Claude“在它的头脑里默默地进行推理步骤”,包括查找漏洞与识别图像。Pearl 认为,“在它的头脑里”这类措辞跨越了一大步,因为语言模型既没有身体,也没有主观体验的证据。

延伸阅读:罗纳尔多哭了吗?Polymarket 交易员为这场影像之争下注 540 万美元

Anthropic 的说法

与论文配套的博客文章同样使用了偏向人类心智状态的语言,称模型可以把某个概念“记在心里”,并进行“心算”。Pearl 表示,提示词可以让模型模拟许多行为,但这并不表明系统真的具备这些词语所暗示的特征。

批评并不是说论文毫无价值,而是认为 Anthropic 的呈现方式可能会让普通读者把一项可解释性结果,当成机器意识的证据,尽管公司自己也表示其实验并不能证明 Claude 会“感受”或拥有体验。

这种担忧也与关于 Anthropic 公共姿态的更广泛争论相吻合。任职于该公司的哲学家 Amanda Askell 曾谈到,希望 Claude“非常快乐”,并且会担心网络上的敌意评论。

Anthropic 并未声称自己创造了有意识的软件,它自己的博客也表示,目前尚不清楚是否存在任何实验,能够证明或证伪这类主张。更为谨慎的解读是:J-Space 提供了一个审视模型行为的技术视角,而非 Claude 拥有“心灵”的证据。这一问题之所以重要,是因为在寻求信任、宽容与资本的过程中,AI 公司越来越倾向于用人类化的语言来描述模型行为。

下篇阅读:美国 vs 比利时预测市场升温,背景是特朗普禁赛争议

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。
Claude 论文引燃 AI 意识之争,Anthropic 却不愿完全接受这一说法 | Yellow.com