Anthropic否认曾推动“封杀开源权重”,直指其真正安全隐忧

Anthropic否认曾推动“封杀开源权重”,直指其真正安全隐忧

Anthropic首席执行官Dario Amodei公开否认,公司从未寻求禁止开源权重(open-weight)AI模型,并给出他支持的三项替代政策路径。

要点速览

  • Amodei表示,Anthropic从未主张以“类别”为单位,全面禁止开源权重模型。
  • 他主张收紧高端芯片出口、打击工业化“蒸馏”复制,以及对足够强大的模型强制安全测试。
  • 在一封由逾20家科技公司联署的公开信中,Anthropic的缺席尤为醒目。

Amodei否认推动“封杀开源权重”

Amodei于7月27日发表声明,终结了外界连日来对其“默认沉默”的揣测。

他表示,只要不具备危险能力,开放模型本身就是一种公共产品:除运行所需算力外几乎没有边际成本,却能为企业、开发者与科研机构带来广泛价值。

他补充称,即便实施保护主义式的封禁,也触及不到他最担忧的国家安全风险。

Amodei此番发声,直接回应了英伟达(Nvidia)首席执行官黄仁勋(Jensen Huang)于7月24日发起的一封公开信。这封信由包括微软(Microsoft)MetaPalantir在内的20多家公司签署,并由黄仁勋在其首条X平台帖文中转发。

延伸阅读:加密货币“扳手袭击”半年达52起,多数发生在法国

Sacks与Gurley质疑Anthropic真实意图

风险投资人、前白宫AI事务负责人David Sacks质疑,Anthropic是在借“安全”之名保护自身商业模式。Benchmark合伙人Bill Gurley暗示,公司更像是在守住自己在AI竞赛中的身位,而非提出一套真正有原则的政策框架。在OpenAI最终签署公开信后,Anthropic成为唯一未加入的美国大型AI实验室。

Amodei坦言,一旦实施禁令,确实会在客观上为美国AI实验室提供一定“护城河”,但那从来不是他的目标。他强调,自己真正主张的是:收紧高端芯片出口管制、打击工业规模的模型蒸馏复制,以及对所有足够强大的模型——无论开源还是闭源——实施强制安全测试。

他在接受采访时,将自己的安全担忧分为两大块:

第一类,是以中国共产党为代表、技术能力最强的一批威权政府,利用比美国更强大的模型,在军事上取得长期优势,或在国内推行更高强度的社会控制与压制;

第二类,是高能力模型被滥用于发动网络攻击或生物攻击。他认为,一旦权重完全公开,防护栏很容易被拆除,模型一经释放也无法“收回”,因此开源权重会放大这一类风险。

Kimi K3争议点燃“蒸馏之战”

中国实验室月之暗面(Moonshot AI)发布Kimi K3,时间在7月中旬。这一开源模型在多个评测上直逼美国头部系统,但成本仅为其一小部分。

一名美国白宫高级官员随后指控,Moonshot训练Kimi K3时大量使用了Anthropic旗下Fable模型的输出,即业界所谓的“蒸馏”(distillation)手法。美国财政部长Scott Bessent甚至放出口风,称不排除因此对相关实体实施制裁。

Amodei在这一问题上的立场延续已久。早在六个月前发表的一篇文章中,他就勾勒了上述两大风险场景,并多次警告:一旦模型权重公开,开发方便实际失去了对模型的控制权。与完全开源相比,Anthropic更倾向采用“带闸门”的分发策略,例如旗下Project Glasswing项目,就通过严选合作方,为部分企业提供其网络安全模型的提前接入。

下篇推荐:XRP短线行情预测最高看至1.25美元,美联储决议前市场趋谨慎

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。
最新新闻
查看所有新闻
Anthropic否认曾推动“封杀开源权重”,直指其真正安全隐忧 | Yellow