Anthropic は、最強の artificial intelligence model Claude Mythos へのアクセスを、 企業が confidentially filed for a public offering した翌日に、 新たに約150の組織へ開放している。
重要ポイント:
- Anthropic は、Claude Mythos へのアクセスプログラムである Project Glasswing に、15カ国以上から約150の新組織を追加した。
- この拡大は、同社が新規株式公開を秘密裏に申請した翌日に行われた。
- 研究者は、このモデルがサイバー攻撃を容易にし得ると警告する一方で、Anthropic は防御ツールとして売り込んでいる。
Glasswing 拡大は15カ国にまたがる
同社は火曜日、announced で、 一般公開前にモデルのソフトウェア上の欠陥を発見し修正することを目的とした管理プログラム、 Project Glasswing を拡大すると発表した。
新たなパートナーは15カ国以上にまたがっている。 それぞれの組織は、参加前にセキュリティ要件を満たす必要がある。
4月には、最初の約50の組織が参加しており、その中には Google、Microsoft、Palo Alto Networks、JPMorganChase などが含まれていた。 これら初期ユーザーはすでに、flagged として 1万件以上の高リスクまたは重大なソフトウェア脆弱性を報告している。 今回の追加により、参加組織は合計でおよそ200となる。
最新の参加組織は重要なギャップを埋める位置づけにある。 電力、水道、ヘルスケア、通信、ハードウェアといった、 第1ラウンドでは遅れていた分野をカバーしている。
同社の estimates によれば、 これらの企業のうち1社で重大な侵害が発生しただけでも、1億人をはるかに超える人々に被害が及ぶ可能性がある。
Also Read: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics
Claude Mythos が研究者を懸念させる理由
研究者や政府機関は、questioned で、 これほど高性能なモデルが complex cyberattacks を容易に実行できてしまうのではないかと疑問を呈している。 これに対し Anthropic は、防御側が攻撃者よりも先に強力なツールを持つ必要があると主張し、 この展開を防御側にとって長期的な優位性をもたらすものとして位置づけている。
独立したテストは、この議論に一層の火を注いでいる。 英国の AI Security Institute は、 モデルが自律的に32ステップからなる模擬ネットワーク攻撃を実行したことを documented している。 Mozilla は Mythos が Firefox ブラウザ内で271件の脆弱性を発見し、その修正まで行ったと報告し、 スタートアップの Calif は Apple の M5 チップを標的としたエクスプロイトチェーンを記述している。
同社は、競合する開発企業が今後6〜12カ月以内に、同等レベルのモデルを出荷してくると見込んでおり、 それらは安全策がより弱い可能性があるとしている。
そのギャップが、warns によれば、 攻撃の頻度を高める要因になりうる。 その一方で、Anthropic は一般公開モデル上で動作するツール「Claude Security」をリリースしており、 3週間で2,100件以上の欠陥を修正している。
Claude Mythos surfaced publicly が最初に公になったのは3月のことだ。 当時、社内資料の草稿がオンラインに流出し、 それ以降 Anthropic は、より強固な安全策が整うまではモデル全体を誰にでも渡すことを拒んでいる。 予測市場 Myriad では、6月末までに一般公開される確率はおよそ26.5%とされており、 1週間前の58.5%から低下している。
Read Next: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return