Des chercheurs militaires chinois ont utilisé les réponses des modèles OpenAI et Anthropic pour entraîner des systèmes de défense locaux, selon une analyse de plus de 80 articles académiques et brevets.
Points clés :
- L’examen de plus de 80 publications et brevets chinois montre que des institutions proches de l’armée distillent des modèles américains de pointe en systèmes plus petits, hébergés localement.
- Une unité de cyberguerre de l’APL a fourni à GPT‑3.5 du code militaire sensible, puis a entraîné un modèle domestique à partir des résumés générés.
- Anthropic assure ne vendre aucun accès commercial en Chine et prévient que les copies distillées perdent une partie des garde-fous initiaux.
Distillation de modèles dans plus de 80 travaux chinois
L’étude des articles et brevets chinois, réalisée en partie avec le think tank washingtonien Jamestown Foundation, a mis au jour cette pratique au sein d’institutions liées à l’Armée populaire de libération. Les auteurs disent avoir identifié une vingtaine de cas supplémentaires impliquant des acteurs militaires.
Les documents décrivent la distillation de modèles, une technique qui consiste à transformer les sorties d’un système très puissant en données d’entraînement pour des modèles plus compacts, capables de tourner sur un matériel plus léger.
L’un des articles signés par l’unité 96941 de l’APL, un service de renseignement et de cyberguerre basé à Pékin, relate l’envoi de code source militaire sensible au GPT‑3.5 d’OpenAI, puis la conservation des résumés produits. L’équipe a ensuite entraîné un modèle domestique sur cette matière, de sorte que l’outil final puisse fonctionner entièrement au sein des réseaux militaires chinois, sans recours à des serveurs étrangers.
La Maison-Blanche, le Pentagone, le ministère chinois des Affaires étrangères, l’APL et OpenAI n’ont pas répondu aux demandes de commentaire.
À lire aussi : Infrastructures d’IA, le pari désespéré à 1 Md$ d’un prêteur sur salaire pour dominer les data centers
Sunny Cheung sur la capture du raisonnement des IA occidentales
Sunny Cheung, chercheur associé à Jamestown qui a analysé plus de 60 articles, affirme que les scientifiques militaires chinois s’emploient systématiquement à capter les chaînes de raisonnement des systèmes occidentaux.
Il a déclaré à la presse que ces travaux alimentent des applications de surveillance, de cyberguerre et d’aide à la décision tactique. Enseigner la “bonne réponse” à un modèle est une chose, explique Cheung, mais transférer les étapes de raisonnement qui y conduisent dans un système plus petit est bien plus complexe.
Des chercheurs de la North University of China, établissement lié à l’industrie de l’armement, ont utilisé Claude 3 Haiku d’Anthropic pour générer des données synthétiques destinées à un outil de surveillance des réseaux sociaux. Anthropic assure ne proposer aucun accès commercial à Claude en Chine, dit avoir mis en place des systèmes de contrôle pour signaler les violations de ses politiques, et prévient que les modèles distillés peuvent perdre les garde-fous intégrés à l’original.
Limites de la distillation et angles morts du contrôle des exportations
Trevor Koverko, cofondateur de la société de données d’IA Sapien, souligne que les modèles distillés restent moins performants que les systèmes dont ils dérivent. Il a qualifié la pratique de transfert ciblé de capacités vers un système local moins coûteux et mieux contrôlé, plutôt que de véritable autonomie vis‑à‑vis des IA de pointe.
Parallèlement, les autorités centrales et locales chinoises financent la “mise au régime” des modèles et l’informatique en périphérie, en orientant les subventions vers des logiciels capables de fonctionner sur des drones, satellites et autres équipements contraints.
Les tensions autour de cette technique montent depuis plusieurs mois. Le secrétaire au Trésor Scott Bessent a menacé en juillet de sanctions les entreprises chinoises que son département jugerait coupables de distillation. La start-up Moonshot a démenti la semaine dernière que son modèle Kimi K3 repose sur cette approche, tandis que Pékin accuse Washington de rechercher une hégémonie en matière d’IA et renvoie aux pratiques similaires observées dans des groupes américains.
À suivre : Rumeurs sur l’iPhone pliable : 2 500 $, sans Face ID, sans téléobjectif
