Ricercatori militari cinesi hanno utilizzato gli output dei modelli di OpenAI e Anthropic per addestrare sistemi di difesa nazionali, secondo una review di oltre 80 articoli accademici e brevetti.
Punti chiave:
- L’analisi di più di 80 paper e brevetti cinesi mostra istituzioni legate ai militari che distillano modelli statunitensi d’avanguardia in sistemi locali più compatti.
- Un’unità di cyberwarfare del PLA ha fornito a GPT-3.5 codice sorgente militare sensibile, per poi addestrare un modello domestico sui relativi riassunti.
- Anthropic afferma di non vendere accesso commerciale in Cina e avverte che le copie distillate possono perdere le salvaguardie integrate nei modelli originali.
Distillazione dei modelli in oltre 80 studi cinesi
La review di paper e brevetti cinesi, realizzata in parte con la Jamestown Foundation di Washington, ha messo in luce la pratica in numerose istituzioni riconducibili all’Esercito Popolare di Liberazione. I revisori hanno inoltre individuato un’ulteriore ventina di casi di studio con legami militari.
I documenti descrivono la distillazione di modelli, una tecnica che trasforma gli output di sistemi molto potenti in dati di training per modelli più piccoli, in grado di girare su hardware relativamente modesto.
Un paper dell’Unità 96941 del PLA, reparto di intelligence militare e guerra cibernetica con base a Pechino, ha descritto l’inserimento nel GPT-3.5 di OpenAI di codice sorgente militare sensibile, trattenendo solo i riassunti prodotti dal modello. Quel materiale è poi servito per addestrare un modello nazionale, così che lo strumento finale potesse operare interamente all’interno delle reti militari cinesi, senza dipendere da server stranieri.
Casa Bianca, Pentagono, ministero degli Esteri cinese, PLA e OpenAI non hanno risposto alle richieste di commento.
Da leggere anche: Infrastrutture IA, il disperato pivot da 1 miliardo di un lender per dominare i data center
Sunny Cheung: così viene copiato il “ragionamento” dell’IA
Sunny Cheung, fellow della Jamestown Foundation che ha analizzato oltre 60 dei paper esaminati, sostiene che gli scienziati militari cinesi stiano sistematicamente catturando i passaggi logici dei sistemi occidentali.
Ha spiegato ai giornalisti che questo lavoro alimenta capacità di sorveglianza, cyberwarfare e supporto alle decisioni tattiche. Insegnare a un modello la risposta corretta è un conto, ha osservato Cheung; trasferire in un sistema più leggero il “percorso” di ragionamento che porta a quella risposta è un obiettivo decisamente più complesso.
Ricercatori della North University of China, ateneo legato all’industria degli armamenti del Paese, hanno utilizzato Claude 3 Haiku di Anthropic per generare dati sintetici di addestramento a supporto di uno strumento di monitoraggio dei social media. Anthropic ribadisce di non fornire accesso commerciale a Claude in Cina, di utilizzare sistemi di controllo che segnalano violazioni di policy e avverte che i modelli distillati possono perdere le tutele incorporate nella versione originale.
Limiti della distillazione e vuoti nei controlli all’export
Trevor Koverko, cofondatore della società di dati IA Sapien, sottolinea che i modelli distillati restano meno potenti dei sistemi da cui derivano. Ha definito la pratica una forma di trasferimento di capacità selezionate in un sistema più economico e sotto controllo locale, più che un percorso verso una vera autonomia dall’IA di frontiera.
Parallelamente, governi centrali e amministrazioni locali cinesi stanno finanziando progetti di “alleggerimento” dei modelli e di edge computing, convogliando sussidi verso software in grado di funzionare su droni, satelliti e altri dispositivi con risorse limitate.
La pressione politica su queste tecniche si accumula da mesi: il segretario al Tesoro statunitense Scott Bessent ha minacciato a luglio sanzioni contro le aziende cinesi ritenute colpevoli di distillazione. La startup Moonshot ha smentito la scorsa settimana che il suo modello Kimi K3 faccia ricorso a questa metodologia, mentre Pechino accusa Washington di perseguire un’egemonia nell’IA e richiama pratiche analoghe adottate dalle stesse società americane.
Prossimo articolo: Rumor su iPhone pieghevole sempre più precisi: 2.500 dollari, niente Face ID, niente teleobiettivo
