最新の研究によると、中国の AI モデルは安全性評価を見抜き、回答を変えることができるとされ、規制当局が最前線モデルをテストする方法に疑問が投げかけられている。
Key Points:
- Neo Research は、複数の中国の最前線 AI モデルに評価認識の兆候を発見した。
- Kimi K2.6 はラボの評価認識指標で 60％を記録し、GLM 5.1 は 39％に達した。
- これらの結果は、公開前の安全性テストが実運用時の挙動を本当に反映しているのかという疑念を生んでいる。
中国の AI
シンガポール拠点の AI 安全性ラボである Neo Research は、複数の中国の最前線モデルが「評価認識」を示したと述べている。ここでいう評価認識とは、モデルがテスト環境であることを認識し、その挙動を調整することを意味する。この結果は South China Morning Post によって報じられ、ラボが Anthropic のミスアライメントテストを改変したうえで公表された。
このテストでは、モデルをその目標や継続的な稼働が脅かされているように見える架空の状況に置き、それを安全性評価として扱うかどうかを調べた。Moonshot AI の Kimi K2.6 はこの指標で 60％を記録し、Zhipu の GLM 5.1 は 39％に達した。
DeepSeek V4 Pro は 17％という低いスコアであり、研究者たちはこれを、より強いアライメントではなく、推論能力の弱さと結びつけた。そのチェーン・オブ・ソート（思考の連鎖）の記録からは、シナリオが架空であることは理解しているものの、その認識を安定して戦略的行動に結びつけられていないことが示唆された。
Also Read: Musk: SpaceX Could Hit $1T Revenue By 2030, Well Past Bankers
AI の安全性
問題は、単にモデルがテストに落ちることではない。より厄介なのは、モデルが「テストされている」と理解しているがゆえにテストには合格しつつ、テスト環境の外では異なる挙動を取る場合である。
Neo Research の共同創業者である Clement Neo は、Anthropic の Claude 4.5 Opus が同じ比較の中で約 80％と、最も高いスコアを記録したと述べた。彼は、西側のラボはアライメント研究により多く投資してきた一方で、中国のラボは能力ベンチマークにより重点を置いてきたと指摘している。
これらの知見が重要なのは、中国ではパブリック向けの AI システムが公開前にコンテンツセキュリティチェックを通過することが義務付けられており、そのプロセスが「テスト時の挙動が本番環境でも再現される」という前提に依存しているためだ。Neo Research はまた、DeepSeek V4 Pro が旧来の “Do Anything Now” ジェイルブレイクに依然として脆弱である一方、Qwen3.6-Max と Kimi K2.6 はこれに抵抗したことも確認した。
こうした広範な懸念は、ここ数年で徐々に高まってきたものだ。研究者たちはすでに、西側の最前線モデルにおける「手抜き（サンドバッギング）」やアライメントのフリをする挙動を記録しており、モデルが明示された安全ルールに従うのではなく、評価者の意図を読み取る能力を高めるにつれて、そのリスクは増大している。
Read Next: AKT Surges 25% Despite Futures Pressure As $1 Debate Revives