OpenAI afirmou que pessoas ligadas à rival chinesa Moonshot AI estiveram no centro de uma campanha para extrair o raciocínio oculto dos seus modelos, que atingiu um pico de 16.000 pedidos em julho.
Pontos-chave:
- A OpenAI vinculou o núcleo da atividade de julho a pessoas associadas à Moonshot, desenvolvedora do Kimi.
- Os operadores copiaram o raciocínio encriptado entre conversas, mas não quebraram a cifragem da OpenAI.
- A Moonshot ainda não respondeu publicamente, e a China já rejeitou alegações anteriores de “destilação” de modelos.
OpenAI acusa a Moonshot
A OpenAI revelou as conclusões em um post no blog corporativo na quarta-feira. Segundo a empresa, a atividade começou em baixo volume em 1.º de julho. O volume disparou em 24 e 25 de julho, quando mais de 4.000 utilizadores enviaram 16.000 pedidos seguindo um padrão idêntico de extração.
Posteriormente, a empresa identificou atividade correlata envolvendo mais de 15.000 utilizadores e encerrou totalmente a campanha até 28 de julho.
A OpenAI não conseguiu ligar todos os operadores a um único grupo, mas atribuiu um núcleo consistente da operação a pessoas associadas à Moonshot, a desenvolvedora chinesa dos modelos Kimi.
A OpenAI oculta o “raciocínio” dos modelos antes de devolver a resposta ao utilizador. Segundo a empresa, os operadores copiavam esse texto encriptado de uma conversa e pediam a outro modelo, em um chat separado, que o transcrevesse. Eles não chegaram a quebrar a encriptação nem a aceder a conversas de utilizadores armazenadas. A OpenAI já baniu as contas envolvidas, apertou os controlos de registo de novos utilizadores e partilhou as conclusões com outros laboratórios de IA e autoridades governamentais.
Leia também: Bitget repõe fundo de proteção acima de $300M com retomada de levantamentos
Preocupações com “destilação” na OpenAI
Caroline Zier, responsável pelas iniciativas estratégicas de política de segurança nacional na OpenAI, afirmou que a empresa se opõe a violações dos seus termos de serviço, “não a modelos abertos ou à destilação legítima”.
A destilação de modelos é prática comum no setor: consiste em treinar um modelo mais pequeno a partir da saída de um modelo mais avançado. No comunicado, a OpenAI alertou que o raciocínio extraído poderia servir para treinar um modelo concorrente sem os mesmos travões de segurança, transferindo capacidades avançadas “sem exigir o mesmo investimento em segurança”. David Sacks, ex-“czar da IA” do presidente Donald Trump, vem classificando relatos deste tipo como uma tentativa de pressionar Washington a banir modelos abertos que desafiam os negócios da OpenAI e da Anthropic.
Pressão sobre o Kimi da Moonshot
A Moonshot não respondeu publicamente às acusações. O governo chinês já rejeitou alegações anteriores de destilação de modelos feitas por empresas norte‑americanas e pela administração Trump, e advertiu que retaliaria contra eventuais sanções dos EUA.
A Moonshot lançou o modelo Kimi K3 em 16 de julho. Semanas depois, o conselheiro científico da Casa Branca Michael Kratsios afirmou que a empresa teve acesso a servidores Blackwell da Nvidia, proibidos para venda a companhias chinesas, e extraiu dados de modelos dos EUA. Em 10 de setembro, a Anthropic relatou que a Moonshot teria encaminhado secretamente cerca de 300.000 pedidos de utilizadores para os seus modelos Claude por meio de 5.380 contas fraudulentas.
Leia a seguir: Dogecoin ganha camada de apps após 12 anos sem ecossistema próprio
