Anthropic afferma che le nuove misure di sicurezza per Claude hanno ridotto di circa il 90%-99% i dati sottratti tramite attacchi di distillazione, e ha indicato la cinese Z.ai come una delle società che avrebbero provato a farlo.
Punti chiave:
- Secondo Anthropic, le nuove difese riducono di circa il 90%-99% i dati che i distiller riescono a estrarre da Claude.
- La società ha sospeso decine di migliaia di account collegati a campagne di distillazione.
- Anthropic sostiene che Z.ai, nota anche come Zhipu, abbia tentato di distillare Claude durante lo sviluppo del modello GLM-5.3.
Le difese di Claude contro la distillazione
Anthropic ha illustrato i risultati in un post di ricerca pubblicato lunedì 12 ottobre, descrivendo le modifiche introdotte negli ultimi mesi. L’azienda ha dichiarato che le prime evidenze mostrano come i nuovi metodi abbiano ridotto la quantità di dati raccolti dai distiller di circa il 90%-99%, pur avvertendo che non è chiaro per quanto tempo tali benefici potranno durare. Le difese si concentrano sul “ragionamento” di Claude, cioè la catena di pensiero passo-passo che il modello genera prima di fornire la risposta finale.
Con Claude Fable 5.1 e Claude Opus 5.5, i nuovi account API creati dal 31 agosto in avanti non possono più modificare il contesto precedente di Claude, una funzionalità che Anthropic definisce preserved thinking. Un nuovo classificatore a due stadi blocca inoltre i tentativi di estrazione con un tasso di falsi positivi inferiore allo 0,1%, e la società sostiene che ora i distiller riescano a ottenere dalle 10 alle 100 volte meno token di ragionamento rispetto a prima.
Anthropic dichiara anche di aver bannato decine di migliaia di account collegati tra loro, spesso entro due ore dall’attività sospetta.
Da leggere anche: GPT-6.1 Sol ha aiutato a ridurre di 76 volte i costi degli agent di Asana, ma c’è un però
Le accuse di distillazione contro Z.ai
La distillazione consiste nell’addestrare un modello più piccolo sulle risposte di un modello più potente; OpenAI e Google si sono schierate con Anthropic nel sostenere che questa tecnica permetta ai concorrenti di copiare capacità avanzate in modo più rapido ed economico. I transcript di ragionamento sono l’elemento più prezioso: nei test interni di Anthropic, un modello addestrato sul ragionamento completo di Claude ha registrato un punteggio dell’80,4% sul benchmark di programmazione SWE-bench Verified, contro il 71,8% di un modello addestrato soltanto su riassunti.
La società ha avvertito che tali pratiche di copia comportano rischi per la sicurezza e la sicurezza nazionale, perché i modelli distillati spesso arrivano sul mercato privi di salvaguardie proporzionate alla loro potenza. Anthropic sostiene che Z.ai, o Zhipu, abbia tentato di distillare Claude Fable 5 durante lo sviluppo di GLM-5.3, per poi ripiegare su una versione precedente di Claude e su un modello di un altro laboratorio dopo che le misure di cyber-sicurezza avrebbero ridotto l’efficacia degli attacchi. Z.ai non ha risposto immediatamente alla richiesta di commento.
Per ora nessun soggetto indipendente ha verificato i numeri diffusi da Anthropic. La stessa azienda ammette alcuni compromessi: rinuncia a parte dei ricavi, impone modifiche di integrazione ad alcuni sviluppatori, provoca talvolta il blocco di richieste legittime e ha ripreso, dal 24 settembre, a fatturare anche le richieste respinte.
L’annuncio arriva dopo mesi di accuse incrociate. A febbraio Anthropic ha accusato DeepSeek, Moonshot AI e MiniMax di aver generato oltre 16 milioni di interazioni con Claude tramite circa 24.000 account fraudolenti, allo scopo di migliorare i propri modelli. Il 17 settembre, i valutatori statunitensi del National Institute of Standards and Technology hanno poi classificato GLM-5.3 come il modello open-weight con le capacità cyber più avanzate finora rese pubbliche, pur restando circa quattro mesi indietro rispetto ai frontier model americani.
Prossimo articolo: I cripto-investitori francesi rischiano fino a 10.000 euro per wallet non dichiarati
