Anthropicのダリオ・アモデイCEOは、同社がオープンウェイト型AIモデルの禁止を 政府に働きかけた事実はないと明確に否定し、その代わりに支持する3つの政策を示した。
主なポイント
- Anthropicは「オープンウェイト」というカテゴリーそのものの禁止を一度も提唱していないと説明。
- 半導体の輸出規制、大規模な蒸留（ディスティレーション）への規制、十分に高性能なモデルに対する安全性試験の義務化を求めている。
- 20社超が署名した公開書簡に、Anthropicは唯一の大手米AIラボとして名を連ねなかった。
アモデイ氏、「オープンウェイト禁止を働きかけた」との見方を否定
アモデイ氏は7月27日、自身の見解をまとめた声明を 投稿 し、 数日間にわたる沈黙に終止符を打った。競合各社はこの沈黙を事実上の回答と受け止め、 同社がオープンウェイト禁止を望んでいるとの見方を強めていた。
同氏は、危険な機能を持たないオープンモデルは「公共財」に近い存在だと評価。 必要なのは推論に要する計算資源だけで、企業や開発者、研究者にとって大きな価値を もたらしていると述べた。
一方で、保護主義的な全面禁止措置は、同氏が最も懸念する国家安全保障上のリスクには ほとんど届かないと指摘した。
今回の投稿は、Nvidiaのジェンスン・フアンCEOが7月24日に 回覧 した 公開書簡への事実上の回答だ。Microsoft、Meta、Palantirなど20社超が 書簡に署名し、フアン氏はこれをXへの初投稿で共有した。
関連記事: Crypto Wrench Attacks Reach 52 Cases In Six Months, Most Of Them In France
サックス氏とガーリー氏、Anthropicの「本音」を疑問視
ベンチャーキャピタリストで、ホワイトハウスの元AI担当「ツァー」を務めた デビッド・サックス氏は、 Anthropicは自社ビジネスモデルを守るために「安全性」の名目を使っているのではないかと 批判 した。
ベンチマークのパートナーであるビル・ガーリー氏も、 同社が原則論ではなく、自らのレース上のポジションを防衛しているだけではないかと 示唆 している。 OpenAIが公開書簡に署名した後、主要な米AIラボで署名していなかったのはAnthropicだけになっていた。
アモデイ氏も、仮にオープンウェイトを禁止すれば、米国のラボが国外勢との競争から 事実上守られる側面があることは認める。ただし、それは自らの目的ではないと明言する。 同氏が求めるのは、半導体の輸出管理の一段の強化、大規模な産業用途のディスティレーションへの取り締まり、 そしてオープンかクローズドかを問わず、一定水準以上の能力を持つモデルに対する 安全性評価の義務付けだ。
同氏はリスクを大きく二つに 分けて 説明する。
一つ目は、中国共産党を筆頭とする権威主義国家が、米国勢を上回る性能のモデルを構築し、 それを軍事的優位や国内の強権的統治に長期的に活用するシナリオだ。
二つ目は、高度なモデルがサイバー攻撃や生物兵器関連の攻撃に悪用されるリスクである。 アモデイ氏は、オープンウェイト化によってガードレールが容易に外され、 一度公開された重みは「回収不能」になるため、この種のリスクを特に高めると警鐘を鳴らしている。
Kimi K3をめぐる「蒸留」疑惑が火種に
中国のAIラボであるMoonshot AIはKimi K3を公開 した。 7月中旬に登場したこのオープンモデルは、コストが米国勢の一部先端モデルより 大幅に低いにもかかわらず、複数のベンチマークでトップクラスの性能に肩を並べたとされる。
これを受けて、ホワイトハウス高官は、MoonshotがAnthropicのFableモデルの出力を 学習に使った可能性を指摘。こうした手法は一般に「ディスティレーション（蒸留）」と呼ばれる。 さらに、スコット・ベセント財務長官は制裁措置の可能性にまで言及した。
アモデイ氏は、こうした懸念を以前から繰り返し訴えてきた。6カ月前に公表した論考でも 同様のシナリオを提示しており、モデルのウェイトを公開した途端に、開発者は実質的な制御力を 失うと警告している。Anthropicは、代わりに「ゲート付き」の配布モデルを採用しており、 サイバー向けモデルに企業を事前審査のうえで提供する「Project Glasswing」などの 取り組みを進めている。
次に読む: XRP Near-Term Forecasts Top Out At $1.25 Before The Fed Decision