Anthropic は、最強の人工知能モデル Claude Mythos へのアクセスを、新規株式公開のための機密申請からわずか1日後に、およそ150の新たな組織へ開放した。
主なポイント:
- Anthropicは、Claude MythosへのアクセスプログラムであるProject Glasswingに、15カ国以上から約150の新規組織を追加した。
- この拡大は、同社が新規株式公開を機密申請してから1日後に行われた。
- 研究者らは、Anthropicが防御ツールとして売り込む一方で、このモデルがサイバー攻撃を容易にする可能性を警告している。
Glasswingの拡大、15カ国にまたがる
同社は火曜日に発表し、一般公開前にモデルのソフトウェア上の欠陥を発見・修正するために構築された管理プログラム、Project Glasswingを拡大すると明らかにした。
新たなパートナーは15カ国以上に所在しており、それぞれが参加前にセキュリティ要件を満たす必要がある。
4月には、約50の組織からなる最初のグループが参加し、その中には Google、Microsoft、Palo Alto Networks、JPMorganChase などが含まれていた。初期ユーザーはこれまでに報告した高リスクまたは重大なソフトウェア脆弱性が1万件を超えており、今回の新規参加によって総数は約200組織となる。
最新のコホートは重要なギャップを埋めるもので、電力、水道、医療、通信、ハードウェアといった、初回には出遅れていた分野をカバーしている。
同社の試算では、これらの企業のうち1社で重大な侵害が発生しただけでも、1億人をはるかに超える人々に被害が及ぶ可能性があるという。
あわせて読みたい: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics
Claude Mythosが研究者を不安にさせる理由
研究者や政府機関は、このレベルの能力を持つモデルが高度なサイバー攻撃を容易にするのではないかと疑問を呈している。これに対しAnthropicは、攻撃側が手にする前に防御側こそ強力なツールを必要としていると主張し、この展開を防御にとって持続的なアドバンテージだと位置づけている。
独立したテストは、この議論にさらに火を付けている。英国AI Security Instituteは、モデルが自律的に実行した32ステップの模擬ネットワーク攻撃を記録した。Mozillaは、MythosがFirefoxブラウザ内で271件の脆弱性を発見し、その場で修正したと報告しており、スタートアップの Calif は Apple のM5チップを標的としたエクスプロイトチェーンを説明している。
同社は、競合する開発企業も今後6〜12カ月のうちに同等クラスのモデルを投入してくると見ており、その多くは安全対策がより弱い可能性があるとみている。
そうしたギャップが、より頻繁な攻撃を招きかねないと同社は警告している。その一方でAnthropicは、公開モデル上で動作するツール「Claude Security」をリリースし、この3週間で2,100件以上の欠陥を修正したとしている。
Claude Mythosが公に姿を現したのは3月にさかのぼる。社内資料のドラフトがオンラインに流出した後、Anthropicはより強固なセーフガードが整うまでは、フルモデルを広く提供しない方針を貫いている。予測市場 Myriad では、6月末までに完全公開される確率は、1週間前の58.5%から約26.5%まで低下している。
次に読む: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return