Anthropic sostiene che le nuove misure di sicurezza introdotte in Claude hanno ridotto del 90%-99% i dati sottratti tramite attacchi di distillazione, indicando la cinese Z.ai come una delle società che avrebbe tentato questo tipo di operazioni.
Punti chiave:
- Anthropic afferma che le nuove difese tagliano di circa il 90%-99% i dati che i distillatori riescono a estrarre da Claude.
- L’azienda ha bloccato decine di migliaia di account collegati a campagne di distillazione.
- Anthropic sostiene che Z.ai, nota anche come Zhipu, abbia tentato di distillare Claude durante lo sviluppo del modello GLM-5.3.
Difese di Claude contro la distillazione
Anthropic ha illustrato i risultati in un post di ricerca pubblicato lunedì 12 ottobre, descrivendo gli interventi adottati negli ultimi mesi. L’azienda ha dichiarato che le prime evidenze indicano una riduzione del 90%-99% dei dati carpiti dai distillatori, pur avvertendo che non è chiaro per quanto tempo questi benefici resteranno stabili. Il fulcro delle difese è il “reasoning” di Claude, cioè il ragionamento passo a passo che il modello elabora prima di formulare una risposta.
Con Claude Fable 5.1 e Claude Opus 5.5, i nuovi account API creati dal 31 agosto in poi non possono più modificare il contesto pregresso di Claude, una funzione che Anthropic definisce “preserved thinking”. Un nuovo classificatore a due stadi blocca inoltre i tentativi di estrazione, mantenendo un tasso di falsi positivi sotto lo 0,1%, e secondo l’azienda i distillatori oggi ricavano dalle 10 alle 100 volte meno token di ragionamento rispetto al passato.
Anthropic ha inoltre chiuso decine di migliaia di account collegati tra loro, spesso entro due ore dall’attività sospetta.
Da vedere anche: GPT-6.1 Sol ha ridotto di 76 volte i costi degli agenti di Asana, ma c’è un però
Le accuse di distillazione a Z.ai
La distillazione consiste nell’addestrare un modello più piccolo sulle risposte di un modello più potente. OpenAI e Google si sono schierate con Anthropic nel sostenere che questa pratica consente ai concorrenti di replicare più rapidamente e a costi inferiori capacità avanzate. I transcript del ragionamento sono la componente più preziosa: nei test interni di Anthropic, un modello addestrato sull’intero reasoning di Claude ha ottenuto l’80,4% sul benchmark di coding SWE-bench Verified, contro il 71,8% di un modello addestrato solo su riassunti.
L’azienda ha avvertito che tali copie pongono rischi per la sicurezza e per la sicurezza nazionale, poiché i modelli distillati arrivano spesso sul mercato senza barriere di protezione proporzionate. Secondo Anthropic, Z.ai – o Zhipu – avrebbe tentato di distillare Claude Fable 5 durante lo sviluppo di GLM-5.3, per poi passare a una versione precedente di Claude e a un modello di un altro laboratorio dopo che le misure informatiche difensive ne avevano indebolito gli attacchi. Z.ai non ha risposto immediatamente a una richiesta di commento.
Nessun soggetto indipendente ha ancora verificato queste cifre. Anthropic ha inoltre ammesso l’esistenza di compromessi: ricavi mancati, modifiche di integrazione per alcuni sviluppatori, blocchi occasionali di richieste legittime e l’applicazione di addebiti anche per le richieste respinte, ripresa il 24 settembre.
L’annuncio arriva dopo mesi di accuse incrociate. A febbraio Anthropic ha accusato DeepSeek, Moonshot AI e MiniMax di aver generato oltre 16 milioni di interazioni con Claude tramite circa 24.000 account fraudolenti per migliorare i propri modelli. Il 17 settembre, i valutatori statunitensi del National Institute of Standards and Technology hanno poi classificato GLM-5.3 come il modello open-weight con le capacità cyber più avanzate finora rilasciato, pur rimanendo indietro di circa quattro mesi rispetto ai modelli di frontiera statunitensi.
Prossima lettura: I crypto-investitori francesi rischiano fino a 10.000 euro per wallet non dichiarati
