Gruber:Claude 隐形水印正在“扭曲写作本身”

John Gruber says Anthropic's Claude watermark bends word choice toward detection, weakening the prose readers actually get. (Image: Shutterstock)
John Gruber says Anthropic's Claude watermark bends word choice toward detection, weakening the prose readers actually get. (Image: Shutterstock)

科技专栏作者 John Gruber 公开抨击 Anthropic 决定为每一条 Claude 回复加入水印,这一变更源自一项由约 190 家机构签署的欧盟行为准则。

核心要点

  • Gruber 指出,水印机制以“可检测性”换取“精确用词”,等于在根本上腐蚀写作艺术。
  • Anthropic 表示,其方法仿照 Google DeepMind 的 SynthID-Text,对输出质量“没有实际影响”。
  • 部分付费用户已开始退订,而承诺中的检测服务仍未给出上线时间。

Gruber:Claude 水印“扭曲了写作”

Gruber 在周日发布的博文中表示,这一系统“腐化了写作这门手艺”本身。他反对的是实现机制,而非“可识别 AI 文本”的目标。

按他的描述,当一句话中存在两三个都合适的候选词时,水印会在这些“低风险”用词选择上强行把 Claude 推向特定词汇,而任何两个近义词都不可能完全等价。无论是私人聊天,还是公开发布的内容,都会被以同样方式“注入”水印。

对于欧盟这一规定,他同样不以为然:任何真正想掩盖痕迹的人,都可以把输出丢给改写工具重写一遍,水印形同虚设。

Gruber 的结论相当尖锐,他将这一方案形容为“对写作的扭曲(a perversion of writing)”。

延伸阅读:iPhone Ultra 首发恐现严重缺货:1,000 万部订单引发供应紧张

Anthropic 为 SynthID 式水印辩护

Anthropic 在 8 月 14 日的说明中解释,其方法借鉴了 Google DeepMind 的 SynthID-Text,只是改动了在“低风险用词”时所依赖的随机性来源。

公司称,这一技术“不会对 Claude 输出的质量或内容产生任何实质影响”。当某个问题只有唯一正确答案时——包括算术题和可运行的代码——系统会关闭这类“轻微推力”。但代码中的注释则仍可能被嵌入水印。

Anthropic 同时强调,这种水印本身不携带任何身份信息,无法用来追溯到具体个人、机构或聊天会话。

但验证环节依赖一把仅由 Anthropic 掌握的密钥。外部第三方在官方检测服务上线前无法独立核查,目前该服务并无明确发布日期。在文本篇幅较短时,由于可操纵的用词选择有限,检测置信度会明显下降。Anthropic 也承认,校对、摘要、翻译等操作,都可能让原本由他人撰写的文本“染上” Claude 的水印。

本周已有数十名付费用户开始取消订阅,他们把这一标记称作“耻辱印记(scarlet letter)”,并表示轻度改写难以真正抹除。

水印落地时间线

这场争议在约两周内迅速发酵。欧盟《AI 法案》第 50 条中关于透明度的义务自 8 月 2 日起正式生效,违反者最高面临 1,500 万欧元或全球年营收 3% 的罚款。

在技术细节公开前,Anthropic 先是悄然更新了客服支持页面。因早期说明几乎“语焉不详”引发质疑后,公司于 8 月 14 日发布了更完整的技术解读。

两天后,Gruber 的长文上线。此后一天内,订阅取消的报道开始出现。目前旧版本 Claude 模型仍未强制加水印,但公司表示,未来数月将逐步把标记机制扩展至这些模型。

下篇看:XRP 多头押注 21.6 亿美元博反弹,机构买盘依旧疲弱

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的内容负责人,在过去 10 年里一直报道加密行业。 他专注于深度的 Research 和 Learn 文章,重点关注分析性报道、行业背景,以及塑造加密世界的更大力量,从 AI 时代与安全技术到金融科技创新。 他坚信数字化的一切即将全面超越模拟世界的一切,并正为促成这一转变而不懈努力。

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。
Gruber:Claude 隐形水印正在“扭曲写作本身” | Yellow