OpenAI sostiene che persone legate al rivale cinese Moonshot AI siano state al centro di una campagna volta a estrarre il ragionamento nascosto dei suoi modelli, con un picco di 16.000 richieste registrato nel mese di luglio.
Punti chiave:
- OpenAI ha ricondotto un nucleo centrale dell’attività di luglio a soggetti associati a Moonshot, lo sviluppatore di Kimi.
- Gli operatori hanno copiato il ragionamento cifrato tra diverse chat, senza tuttavia violare la cifratura di OpenAI.
- Moonshot non ha ancora risposto pubblicamente; Pechino ha respinto in passato accuse analoghe di distillazione.
L'accusa di OpenAI contro Moonshot
OpenAI ha reso note le proprie conclusioni in un post sul blog pubblicato mercoledì. Secondo la società, l’attività è partita con volumi contenuti il 1° luglio, per poi impennarsi il 24 e 25 luglio, quando oltre 4.000 utenti hanno inviato complessivamente 16.000 richieste seguendo uno stesso schema di estrazione.
In un secondo momento OpenAI ha individuato attività riconducibili alla stessa campagna su oltre 15.000 utenti e ha interrotto completamente l’operazione entro il 28 luglio.
L’azienda non è riuscita ad attribuire ogni singolo operatore a un unico soggetto, ma ha collegato un cluster centrale di account a persone associate a Moonshot, sviluppatore cinese dei modelli Kimi.
OpenAI oscura il ragionamento intermedio dei suoi modelli prima che generino la risposta. Secondo la società, gli operatori hanno copiato quel testo cifrato da una conversazione e l’hanno incollato in un’altra chat, chiedendo a un secondo modello di trascriverlo. Non sarebbero però riusciti a decifrare direttamente i dati né ad accedere alle conversazioni degli utenti archiviate. OpenAI ha nel frattempo bloccato gli account coinvolti, irrigidito i controlli in fase di registrazione e condiviso gli elementi raccolti con altri laboratori di IA e con canali governativi.
Da leggere anche: Bitget ripristina il fondo di protezione sopra i 300 milioni di dollari con la riapertura dei prelievi
Il nodo della distillazione secondo OpenAI
Caroline Zier, responsabile delle iniziative strategiche di politica per la sicurezza nazionale in OpenAI, ha dichiarato che l’azienda contesta le violazioni dei propri termini di servizio, «non i modelli aperti o la distillazione legittima».
La distillazione è una pratica diffusa nel settore. Nel suo post, OpenAI ha avvertito che il ragionamento estratto potrebbe essere usato per addestrare un modello concorrente privo delle tutele originali, trasferendo capacità avanzate «senza richiedere lo stesso investimento in sicurezza». David Sacks, ex “czar dell’IA” del presidente Donald Trump, ha descritto queste denunce come un tentativo di spingere Washington a vietare i modelli open source che mettono in discussione il business di OpenAI e Anthropic.
Sotto la lente il Kimi di Moonshot
Moonshot non ha ancora replicato pubblicamente alle accuse. Il governo cinese ha respinto in passato contestazioni simili mosse da società statunitensi e dall’amministrazione Trump, avvertendo che reagirà a eventuali sanzioni USA.
Moonshot ha lanciato il modello Kimi K3 il 16 luglio. Nel giro di poche settimane, il consigliere scientifico della Casa Bianca Michael Kratsios ha affermato che l’azienda avrebbe avuto accesso a server Nvidia Blackwell vietati alla vendita a società cinesi e avrebbe estratto dati da modelli statunitensi. Il 10 settembre, Anthropic ha poi segnalato che Moonshot avrebbe instradato di nascosto circa 300.000 richieste di utenti verso i suoi modelli Claude, utilizzando 5.380 account fraudolenti.
Prossimo articolo: Dogecoin avrà un app layer dopo 12 anni senza un'infrastruttura applicativa
