OpenAI sostiene che persone legate alla rivale cinese Moonshot AI siano state al centro di una campagna per estrarre il ragionamento nascosto dei suoi modelli, arrivata al picco di 16.000 richieste nel mese di luglio.
Punti chiave:
- OpenAI ha collegato il nucleo dell’attività di luglio a soggetti associati a Moonshot, lo sviluppatore di Kimi.
- Gli operatori hanno copiato il ragionamento cifrato tra diverse chat, senza però violare la cifratura di OpenAI.
- Moonshot non ha ancora risposto pubblicamente e Pechino ha respinto in passato accuse simili di distillazione.
OpenAI accusa Moonshot
OpenAI ha rivelato i risultati dell’indagine in un post pubblicato mercoledì. L’attività, spiega la società, è partita in sordina il 1º luglio, per poi impennarsi il 24 e 25 luglio, quando oltre 4.000 utenti hanno inviato 16.000 richieste seguendo lo stesso schema di estrazione.
In seguito, l’azienda ha identificato attività collegate su oltre 15.000 account e ha bloccato completamente la campagna entro il 28 luglio.
OpenAI non è riuscita ad attribuire ogni singolo operatore a un’unica controparte, ma riconduce un cluster centrale di soggetti a persone associate a Moonshot, lo sviluppatore cinese dei modelli Kimi.
OpenAI occulta il ragionamento intermedio dei suoi modelli prima della risposta finale. Secondo la società, gli operatori hanno copiato quel testo cifrato da una conversazione e l’hanno incollato in un’altra chat, chiedendo a un modello di trascriverlo. Non sarebbero però mai riusciti a decifrare direttamente i dati né ad accedere alle conversazioni memorizzate degli utenti. OpenAI ha successivamente chiuso gli account coinvolti, irrigidito i controlli in fase di registrazione e condiviso le proprie scoperte con altri laboratori di AI e con i canali governativi competenti.
Da leggere anche: Bitget ripristina il fondo di protezione sopra i 300M$ con la ripresa dei prelievi
I timori di OpenAI sulla distillazione
Caroline Zier, responsabile per le iniziative strategiche di sicurezza nazionale in OpenAI, ha precisato che l’azienda contesta le violazioni dei propri termini di servizio, «non i modelli aperti o la distillazione legittima».
La distillazione in sé è una pratica diffusa nel settore. Nel suo post, OpenAI ha avvertito che il ragionamento estratto potrebbe essere utilizzato per addestrare un modello concorrente privo delle stesse barriere di sicurezza, trasferendo capacità avanzate «senza richiedere lo stesso investimento in safety». David Sacks, ex “zar dell’AI” del presidente Donald Trump, ha definito queste denunce un tentativo di spingere Washington a vietare i modelli aperti che mettono in discussione il modello di business di OpenAI e Anthropic.
Sotto la lente Kimi di Moonshot
Moonshot non ha ancora risposto pubblicamente alle accuse. Il governo cinese ha respinto in precedenza le contestazioni di distillazione avanzate da società statunitensi e dall’amministrazione Trump, avvertendo che reagirà a eventuali sanzioni USA.
Moonshot ha lanciato il modello Kimi K3 il 16 luglio. Nel giro di poche settimane, il consigliere scientifico della Casa Bianca Michael Kratsios ha affermato che l’azienda avrebbe avuto accesso a server Nvidia Blackwell, la cui vendita è vietata alle aziende cinesi, e che avrebbe estratto dati da modelli statunitensi. Il 10 settembre, Anthropic ha poi segnalato che Moonshot avrebbe dirottato in modo occulto circa 300.000 richieste di utenti verso i suoi modelli Claude, utilizzando 5.380 account fraudolenti.
Prossimo articolo: Dogecoin si dota di un’app layer dopo 12 anni di attesa
