Anthropic affirme que ses nouveaux garde-fous autour de Claude réduisent de 90 % à 99 % les données siphonnées lors d’attaques de distillation, et désigne le chinois Z.ai comme l’un des acteurs qui s’y seraient livrés.
Points clés :
- Anthropic affirme que ses nouvelles défenses réduisent d’environ 90 % à 99 % les données que les distillateurs extraient de Claude.
- La société dit avoir banni des dizaines de milliers de comptes liés à des campagnes de distillation.
- Anthropic soutient que Z.ai, aussi connu sous le nom de Zhipu, a tenté de distiller Claude pour entraîner son modèle GLM-5.3.
Des garde-fous renforcés contre la distillation de Claude
Anthropic a détaillé ces résultats lundi 12 octobre dans une note de recherche, revenant sur les changements déployés ces derniers mois. L’entreprise explique que des premiers éléments indiquent une baisse d’environ 90 % à 99 % du volume de données récupérées par les distillateurs, tout en prévenant qu’elle ignore combien de temps ces gains pourront être maintenus. Le cœur des défenses vise le raisonnement de Claude, c’est‑à‑dire les étapes de réflexion intermédiaires générées avant la réponse finale.
Avec Claude Fable 5.1 et Claude Opus 5.5, les nouveaux comptes API créés à partir du 31 août ne peuvent plus modifier le contexte de réflexion préalable de Claude, une fonctionnalité qu’Anthropic appelle « preserved thinking ». Un nouveau classificateur en deux étapes bloque en outre les tentatives d’extraction, avec un taux de faux positifs inférieur à 0,1 %. Selon la société, les distillateurs extraient désormais entre 10 et 100 fois moins de jetons de raisonnement qu’auparavant.
Anthropic indique aussi avoir banni des dizaines de milliers de comptes liés entre eux, souvent dans un délai inférieur à deux heures.
À lire aussi : GPT-6.1 Sol a permis de diviser par 76 les coûts d’agents d’Asana, mais il y a un revers
Les accusations visant Z.ai
La distillation consiste à entraîner un modèle plus petit à partir des réponses d’un modèle plus performant. OpenAI et Google se sont rangés aux côtés d’Anthropic pour dénoncer une technique qui permettrait à des concurrents de reproduire plus vite et à moindre coût des capacités avancées. Les traces de raisonnement détaillées sont les plus convoitées : dans les propres tests d’Anthropic, un modèle entraîné sur l’intégralité du raisonnement de Claude atteint 80,4 % sur le benchmark de codage SWE-bench Verified, contre 71,8 % lorsqu’il n’est entraîné que sur des résumés.
La société a prévenu qu’une telle copie soulève des risques en matière de sécurité et de sûreté nationale, car les modèles distillés sont souvent mis à disposition du public sans garde-fous proportionnellement robustes. Anthropic affirme que Z.ai, ou Zhipu, a tenté de distiller Claude Fable 5 pour développer GLM-5.3, avant de se rabattre sur une version plus ancienne de Claude et sur le modèle d’un autre laboratoire, après que les protections cyber ont dégradé l’efficacité de ses attaques. Z.ai n’a pas répondu immédiatement aux demandes de commentaire.
Aucune instance indépendante n’a encore validé ces chiffres. Anthropic reconnaît également des arbitrages défavorables : revenus renoncés, modifications d’intégration pour certains développeurs, blocages ponctuels de requêtes légitimes et facturation des requêtes bloquées, qu’elle a reprise le 24 septembre.
Cette annonce intervient après plusieurs mois de controverses. En février, Anthropic a accusé DeepSeek, Moonshot AI et MiniMax d’avoir généré plus de 16 millions d’échanges avec Claude via quelque 24 000 comptes frauduleux pour améliorer leurs propres modèles. Puis, le 17 septembre, les évaluateurs américains du National Institute of Standards and Technology ont classé GLM-5.3 comme le modèle open‑weight le plus avancé à ce jour en matière de capacités cyber, tout en soulignant qu’il reste en retrait d’environ quatre mois par rapport aux modèles de pointe américains.
