Des chercheurs militaires chinois ont utilisé les sorties de modèles OpenAI et Anthropic pour entraîner des systèmes de défense nationaux, d’après une analyse de plus de 80 articles scientifiques et brevets.
Points essentiels :
- Une revue de plus de 80 publications et brevets chinois montre que des institutions liées à l’armée distillent des modèles américains de pointe en systèmes locaux plus légers.
- Une unité de cyber-guerre de l’APL a soumis à GPT-3.5 du code source militaire sensible, puis a entraîné un modèle domestique à partir des résumés produits.
- Anthropic affirme ne vendre aucun accès commercial en Chine et prévient que les modèles distillés peuvent perdre les garde-fous intégrés à l’original.
Une distillation de modèles documentée dans plus de 80 travaux chinois
L’examen des publications et brevets chinois, mené en partie avec la Jamestown Foundation, basée à Washington, a mis au jour cette pratique dans de multiples institutions liées à l’Armée populaire de libération (APL). Les analystes ont identifié en outre une vingtaine d’études de cas supplémentaires à caractère militaire.
Les documents décrivent la distillation de modèles, une technique qui transforme les sorties d’un système très performant en données d’apprentissage pour des modèles plus petits, capables de tourner sur du matériel limité.
Un article de l’unité 96941 de l’APL, spécialisée dans le renseignement militaire et la cyber-guerre à Pékin, décrit comment GPT‑3.5 d’OpenAI a été alimenté avec du code source militaire sensible, dont seules les synthèses ont été conservées. L’équipe a ensuite entraîné un modèle national sur cette base, de façon à disposer d’un outil opérant entièrement au sein des réseaux militaires chinois, sans recours à des serveurs étrangers.
La Maison Blanche, le Pentagone, le ministère chinois des Affaires étrangères, l’APL et OpenAI n’ont pas répondu aux demandes de commentaires.
À lire aussi : Infrastructures d’IA, le pari désespéré à 1 Md$ d’un prêteur sur salaire pour dominer les data centers
Sunny Cheung sur le « raisonnement volé » des IA
Sunny Cheung, chercheur à la Jamestown Foundation, qui a analysé plus de 60 de ces publications, estime que les scientifiques militaires chinois capturent de manière systématique les chaînes de raisonnement des systèmes occidentaux.
Il a expliqué à la presse que ces travaux alimentent les capacités de surveillance, de cyber-guerre et d’aide à la décision tactique. Enseigner la bonne réponse à un modèle est une chose, souligne-t-il ; transférer le raisonnement qui y conduit dans un système plus petit est bien plus complexe.
Des chercheurs de la North University of China, établissement associé à l’industrie de l’armement chinoise, ont utilisé Claude 3 Haiku d’Anthropic pour générer des données d’entraînement synthétiques destinées à un outil de veille des réseaux sociaux. Anthropic réaffirme ne proposer aucun accès commercial à Claude en Chine, indique disposer de systèmes de surveillance internes détectant les violations de ses politiques, et avertit que les copies distillées peuvent se défaire des garde-fous présents dans le modèle d’origine.
Limites de la distillation et angles morts du contrôle des exportations
Trevor Koverko, cofondateur de la société de données d’IA Sapien, souligne que les modèles distillés restent moins puissants que les systèmes dont ils s’inspirent. Il a qualifié la pratique de transfert ciblé de capacités vers un système local moins coûteux et mieux contrôlé, plutôt que d’une véritable autonomie face aux IA de pointe.
Parallèlement, les autorités centrales et locales chinoises financent la « mise au régime » des modèles et le calcul en périphérie, orientant les subventions vers des logiciels capables de tourner sur des drones, des satellites et d’autres plateformes aux ressources limitées.
Les critiques contre cette technique montent depuis des mois. Le secrétaire au Trésor Scott Bessent a menacé en juillet de sanctions des entreprises chinoises que son département jugerait coupables de distillation. La startup Moonshot a démenti la semaine dernière que son modèle Kimi K3 repose sur cette approche, tandis que Pékin accuse Washington de chercher une hégémonie en matière d’IA et renvoie aux pratiques comparables de groupes américains.
À suivre : Rumeurs sur l’iPhone pliable : 2 500 $, sans Face ID ni téléobjectif