Anthropic affirme que les nouveaux garde-fous de Claude ont réduit de 90 % à 99 % les données siphonnées lors d’attaques de distillation, et cite le chinois Z.ai comme l’une des sociétés ayant tenté ce type d’opération.
À retenir :
- Anthropic affirme que ses nouvelles défenses réduisent d’environ 90 % à 99 % les données que les acteurs de la distillation extraient de Claude.
- La société a banni plusieurs dizaines de milliers de comptes liés à des campagnes de distillation.
- Anthropic indique que Z.ai, aussi appelé Zhipu, a tenté de distiller Claude lors du développement de son modèle GLM-5.3.
Les défenses de Claude contre la distillation
Anthropic a détaillé ses résultats dans une note de recherche publiée lundi 12 octobre, revenant sur les évolutions déployées ces derniers mois. La société indique que les premiers éléments montrent une baisse d’environ 90 % à 99 % du volume de données récupérées par les distillateurs, tout en prévenant qu’il est impossible de savoir combien de temps ces gains dureront. Le cœur de la stratégie concerne le raisonnement de Claude, c’est‑à‑dire la réflexion pas à pas générée par le modèle avant de formuler sa réponse.
Avec Claude Fable 5.1 et Claude Opus 5.5, les nouveaux comptes API créés à partir du 31 août ne peuvent plus modifier le contexte de réflexion antérieur de Claude, une fonctionnalité qu’Anthropic baptise « preserved thinking ». Un nouveau classifieur en deux étapes bloque également les tentatives d’extraction, avec un taux de faux positifs inférieur à 0,1 %. Selon l’entreprise, les distillateurs récupèrent désormais entre 10 et 100 fois moins de jetons de raisonnement qu’auparavant.
Anthropic indique aussi avoir fermé plusieurs dizaines de milliers de comptes liés entre eux, souvent en moins de deux heures.
À lire aussi : GPT-6.1 Sol a permis de diviser par 76 les coûts d’agent d’Asana, mais il y a un revers
Les accusations de distillation visant Z.ai
La distillation consiste à entraîner un modèle plus petit à partir des réponses d’un modèle plus performant. OpenAI et Google se sont rangés aux côtés d’Anthropic pour dénoncer une pratique qui, selon eux, permet à des concurrents de copier plus vite et à moindre coût des capacités avancées. Les traces de raisonnement sont l’élément le plus critique : dans un test interne d’Anthropic, un modèle entraîné sur l’intégralité du raisonnement de Claude a obtenu 80,4 % sur le benchmark de codage SWE-bench Verified, contre 71,8 % pour un modèle formé sur de simples résumés.
La société a prévenu qu’un tel copiage soulève des enjeux de sûreté et de sécurité nationale, car les modèles distillés arrivent souvent sur le marché sans garde-fous proportionnés. Anthropic affirme que Z.ai, également connu sous le nom de Zhipu, a tenté de distiller Claude Fable 5 pour développer GLM-5.3, avant de se rabattre sur une version plus ancienne de Claude et sur le modèle d’un autre laboratoire lorsque les protections cyber ont dégradé l’efficacité de ses attaques. Z.ai n’a pas réagi dans l’immédiat aux sollicitations de commentaires.
Aucun acteur tiers n’a encore vérifié ces chiffres. Anthropic admet par ailleurs plusieurs compromis : des revenus renoncés, des adaptations imposées à certains développeurs, des blocages ponctuels de requêtes légitimes, ainsi que la facturation des requêtes bloquées, reprise depuis le 24 septembre.
Cette annonce s’inscrit dans un climat de tensions croissantes. En février, Anthropic accusait déjà DeepSeek, Moonshot AI et MiniMax d’avoir généré plus de 16 millions d’échanges avec Claude via quelque 24 000 comptes frauduleux, afin d’améliorer leurs propres modèles. Puis, le 17 septembre, des évaluateurs américains du National Institute of Standards and Technology ont classé GLM-5.3 comme le modèle open-weight disposant à ce jour des capacités cyber les plus avancées, tout en soulignant qu’il reste en retrait d’environ quatre mois sur les modèles de pointe américains.
