OpenAI afirmou que pessoas vinculadas à rival chinesa Moonshot AI estiveram no centro de uma campanha para extrair o raciocínio interno de seus modelos, que atingiu o pico de 16.000 solicitações em julho.
Pontos-chave:
- A OpenAI vinculou o núcleo da atividade de julho a pessoas associadas à Moonshot, desenvolvedora do Kimi.
- Os operadores copiaram o raciocínio criptografado entre diferentes chats, mas não quebraram a criptografia da OpenAI.
- A Moonshot não respondeu publicamente, e o governo chinês já rejeitou acusações anteriores de “destilação” de modelos.
OpenAI acusa Moonshot
A OpenAI divulgou as conclusões em um post no blog da empresa na quarta-feira. Segundo a companhia, a atividade começou em baixo volume em 1º de julho. Ela disparou nos dias 24 e 25 de julho, quando mais de 4.000 usuários enviaram 16.000 pedidos seguindo um mesmo padrão de extração.
Depois, a empresa identificou atividade relacionada envolvendo mais de 15.000 usuários e encerrou totalmente a campanha em 28 de julho.
A OpenAI não conseguiu atribuir todos os operadores a um único agente, mas associou o núcleo do comportamento a pessoas ligadas à Moonshot, a desenvolvedora chinesa por trás dos modelos Kimi.
A empresa esconde o raciocínio intermediário de seus modelos antes de apresentar as respostas. De acordo com a OpenAI, os operadores copiavam esse texto criptografado de uma conversa e o enviavam a outro modelo em um chat diferente, pedindo que fizesse a transcrição. Em nenhum momento a criptografia foi quebrada ou houve acesso a históricos de conversas de usuários. A OpenAI afirmou ter banido as contas envolvidas, reforçado os controles de cadastro e compartilhado as descobertas com outros laboratórios de IA e autoridades governamentais.
Veja também: Bitget restaura fundo de proteção acima de US$ 300 milhões com retomada de saques
Debate sobre destilação na OpenAI
Caroline Zier, responsável por iniciativas estratégicas de política de segurança nacional na OpenAI, afirmou que a empresa se opõe a violações de seus termos de uso, “não a modelos abertos ou à destilação legítima”.
A destilação de modelos é prática comum no setor. No post, a OpenAI alertou que o raciocínio extraído poderia ser usado para treinar um modelo concorrente sem os mesmos mecanismos de proteção, deslocando capacidades avançadas “sem exigir o mesmo investimento em segurança”. David Sacks, ex-“czar de IA” do presidente Donald Trump, classificou relatos desse tipo como uma tentativa de pressionar Washington a banir modelos abertos que ameaçam o modelo de negócios da OpenAI e da Anthropic.
Pressão sobre o Kimi da Moonshot
A Moonshot não se manifestou publicamente sobre as acusações. O governo chinês já havia rechaçado denúncias anteriores de destilação feitas por empresas norte-americanas e pela administração Trump, e advertiu que retaliaria eventuais sanções dos EUA.
A Moonshot lançou seu modelo Kimi K3 em 16 de julho. Poucas semanas depois, o conselheiro científico da Casa Branca Michael Kratsios afirmou que a empresa teria acessado servidores Blackwell da Nvidia, cuja venda é vetada a companhias chinesas, e extraído dados de modelos dos EUA. Em 10 de setembro, a Anthropic relatou que a Moonshot teria redirecionado secretamente cerca de 300.000 requisições de usuários para seus modelos Claude, utilizando 5.380 contas fraudulentas.
Leia a seguir: Dogecoin ganha camada de aplicativos após 12 anos sem uma
