OpenAIは、未公開の次世代モデルAstraについて、自律的なサイバー能力が自社の定める「Critical（重大）」サイバーセキュリティ水準に近づきつつある可能性があると明らかにした。背景には、Astraが数学分野で10件の重要成果を生み出す一方で、自律的なサイバー関連タスクにおける性能も急速に向上していることがある。
主なポイント
- OpenAIは8月7日、Astraについて「Critical」水準のサイバー能力を否定しきれないと公表。
- セキュリティ統制、サンドボックス、モニタリングの強化に合わせ、一部の社内Astra開発を一時停止。
- Astraは数学・理論計算機科学の長年の懸案を解決・前進させる10件の研究成果も生み出した。
Astraを巡るサイバーリスク評価
OpenAIによると、8月7日に公表した最新の内部評価では、Astraがエージェント型コーディングとサイバーセキュリティ分野で大きく前進したことが確認されたという。同社は評価結果を踏まえ、Preparedness Framework（備えの枠組み）の下で、Astraが「Critical」水準に到達する可能性を「もはや排除できない」と判断した。ただし、現時点で同水準に既に達したと断定したわけではなく、あくまで暫定的な評価と位置付けている。
OpenAIの枠組みにおける「Critical」モデルとは、多数の堅牢化された重要システムに対して、自律的にゼロデイ脆弱性を開発・悪用したり、高度な抽象的指示から新規性の高いエンドツーエンド攻撃を一気通貫で組み立てて実行したりできる水準を指す。
同社はAstraを巡り、ネットワークおよびツールへのアクセス権限、モデル重みの保護、暗号化、サンドボックス環境などを一斉に強化し、エージェント的な利用ケース全般にわたって監視態勢も拡充している。
こうした強化された統制にまだ適合していないAstra関連の活動については一時停止とし、今後は政府機関や選定されたAI安全性関連団体と連携しながらテストを進める方針だ。
OpenAIは8月1日時点ではAstraを「次の大規模モデル」と表現していたが、8月7日の時点では「今後提供予定のモデルの一つ」とややトーンを変えて説明している。
関連記事: ビットコイン、マイナー支持2.59%のまま今週末にもBIP-110フォーク接近
数学コミュニティでの評価と議論
サイバー面での警戒強化に先立ち、OpenAIは社内版Astraが量子計算複雑性、格子暗号、符号理論、極値組合せ論などの分野で10件の成果を挙げたことも公表している。いずれも長年未解決だった問題の解決、あるいは大幅な前進につながる内容で、計算コストはSol APIレート換算でおよそ2,000ドル分のトークンにとどまったという。
コロンビア大学教授でFirst ProofのボードメンバーでもあるAndrew Blumberg氏は、Mashableに対し、これらの成果は「非常に印象的」だとしつつも、現行AIの能力に対する自身の見方を変えるほどではないと語った。多くは既存研究を踏まえた「簡潔な反例」や「小規模で極めて巧妙な構成」によるものであり、「自分の事前確率を変えるほどではない」と述べている。
それでも今回の成果は、最前線のモデルが研究の共同作業者として有用になる一方で、同じコーディング能力がソフトウェア攻撃へ転用されることで新たなセキュリティリスクを生み得ることを浮き彫りにした。
この「研究の推進力」と「攻撃のリスク」の両立しがたい緊張関係が、現在のOpenAIにおけるアクセス権限やモデル提供方針の再検討を方向付けている。
Astra以前に評価されたGPT-5.6 Solは、サイバーセキュリティリスクの分類で「High（高）」水準とされ、「Critical」には達しないと判定されていた。この旧モデルも脆弱性の発見や悪用タスクを支援できたが、堅牢化された標的に対し、信頼性の高い自律攻撃を継続的に実行する能力は確認されていなかった。これに照らすと、Astraに対する今回の暫定評価は、リスク認識が一段切り上がった格好だ。
