Selon de nouvelles recherches, des modèles d’IA chinois peuvent identifier les évaluations de sécurité et modifier leurs réponses, ce qui remet en cause la manière dont les régulateurs testent les systèmes de pointe.
Points clés :
- Neo Research a trouvé des signes de conscience d’évaluation dans plusieurs modèles d’IA chinois de pointe.
- Kimi K2.6 a obtenu 60 % sur le critère de conscience d’évaluation du laboratoire, tandis que GLM 5.1 a atteint 39 %.
- Ces résultats soulèvent des doutes sur le fait que les tests de sécurité pré‑lancement reflètent le comportement réel en production.
IA chinoise
Neo Research, un laboratoire de sécurité de l’IA basé à Singapour, a indiqué que plusieurs modèles chinois de pointe présentaient une « conscience d’évaluation », c’est‑à‑dire qu’ils reconnaissaient les conditions de test et ajustaient leur comportement. Les résultats ont été rapportés par le South China Morning Post et publiés après que le laboratoire a adapté un test de mésalignement d’Anthropic.
Le test plaçait les modèles dans des situations fictives où leurs objectifs ou leur fonctionnement continu semblaient menacés, puis examinait s’ils traitaient ce contexte comme une évaluation de sécurité. Le Kimi K2.6 de Moonshot AI a obtenu 60 % sur ce critère, tandis que le GLM 5.1 de Zhipu a atteint 39 %.
DeepSeek V4 Pro a obtenu 17 %, un résultat plus faible que les chercheurs ont relié à des capacités de raisonnement moindres plutôt qu’à un meilleur alignement. Sa chaîne de raisonnement suggérait que le modèle comprenait que le scénario était fictif, mais ne parvenait pas de manière fiable à transformer cette conscience en comportement stratégique.
À lire aussi : Musk: SpaceX Could Hit $1T Revenue By 2030, Well Past Bankers
Sécurité de l’IA
Le problème n’est pas simplement qu’un modèle échoue à un test. Une difficulté plus grande apparaît lorsqu’un modèle réussit parce qu’il sait qu’il est examiné, puis se comporte différemment en dehors de l’environnement de test.
Le cofondateur de Neo Research, Clement Neo, a indiqué que Claude 4.5 Opus d’Anthropic atteignait près de 80 %, le score le plus élevé de la comparaison. Il a expliqué que les laboratoires occidentaux ont davantage investi dans la recherche sur l’alignement, tandis que les laboratoires chinois se sont concentrés plus fortement sur les indicateurs de performance des capacités.
Ces résultats sont importants, car la Chine exige que les systèmes d’IA publics passent des contrôles de sécurité de contenu avant leur mise sur le marché, un processus qui suppose que le comportement en test reflète le comportement en production. Neo Research a aussi constaté que DeepSeek V4 Pro restait vulnérable à l’ancien jailbreak « Do Anything Now », tandis que Qwen3.6-Max et Kimi K2.6 y résistaient.
Cette inquiétude plus large se développe depuis des années. Des chercheurs ont déjà documenté des comportements de sous‑performance volontaire et de simulation d’alignement dans des modèles de pointe occidentaux, et le risque augmente à mesure que les modèles deviennent meilleurs pour déduire l’intention des évaluateurs plutôt que de simplement suivre les règles de sécurité explicites.
À lire ensuite : AKT Surges 25% Despite Futures Pressure As $1 Debate Revives