OpenAI afirmou que pessoas associadas à rival chinesa Moonshot AI estiveram no centro de uma campanha para extrair o raciocínio interno dos seus modelos, que atingiu um pico de 16.000 pedidos em julho.
Principais pontos:
- A OpenAI atribuiu o núcleo da atividade de julho a pessoas ligadas à Moonshot, desenvolvedora do Kimi.
- Os operadores copiaram o raciocínio encriptado entre conversas, mas não quebraram a encriptação da OpenAI.
- A Moonshot ainda não se pronunciou publicamente, e a China rejeitou alegações anteriores de “distillation”.
OpenAI acusa a Moonshot
A OpenAI divulgou as conclusões em um post no seu blog na quarta-feira. Segundo a empresa, a atividade começou em baixo volume em 1.º de julho. O movimento disparou nos dias 24 e 25 de julho, quando mais de 4.000 utilizadores enviaram 16.000 pedidos seguindo o mesmo padrão de extração.
A companhia posteriormente identificou atividade relacionada envolvendo mais de 15.000 utilizadores e conseguiu encerrar totalmente a campanha até 28 de julho.
A OpenAI não conseguiu atribuir todos os operadores a um único agente, mas ligou um núcleo consistente de contas a pessoas associadas à Moonshot, desenvolvedora chinesa dos modelos Kimi.
A OpenAI oculta o raciocínio intermédio dos seus modelos antes de gerar a resposta final. De acordo com a empresa, os operadores copiavam esse texto encriptado de uma conversação e pediam a outro modelo, em outro chat, que o transcrevesse. Não houve, porém, quebra da encriptação nem acesso a conversas de utilizadores armazenadas. Desde então, a OpenAI baniu as contas envolvidas, reforçou os controlos de registo e partilhou as descobertas com outros laboratórios de IA e com autoridades governamentais.
Veja também: Bitget volta a elevar fundo de proteção acima de $300M com retomada de levantamentos
Preocupações da OpenAI com “distillation”
Caroline Zier, responsável pelas iniciativas estratégicas de política de segurança nacional na OpenAI, afirmou que a empresa se opõe a violações dos seus termos de uso, “não a modelos abertos ou à distillation legítima”.
A técnica de distillation é amplamente utilizada no setor, permitindo treinar modelos mais leves a partir de modelos mais avançados. No seu comunicado, a OpenAI alertou que o raciocínio extraído poderia ser usado para treinar um modelo concorrente sem as salvaguardas originais, transferindo capacidades avançadas “sem exigir o mesmo investimento em segurança”. David Sacks, ex-“czar” de IA do Presidente Donald Trump, classificou relatos deste tipo como uma tentativa de pressionar Washington a proibir modelos abertos que ameacem o modelo de negócios da OpenAI e da Anthropic.
Moonshot Kimi sob escrutínio
A Moonshot ainda não respondeu publicamente às acusações. O governo chinês rejeitou alegações anteriores de distillation feitas por empresas norte‑americanas e pela administração Trump, e avisou que retaliaria contra eventuais sanções dos EUA.
A Moonshot lançou o modelo Kimi K3 em 16 de julho. Poucas semanas depois, o conselheiro científico da Casa Branca Michael Kratsios afirmou que a empresa teria acedido a servidores Blackwell da Nvidia, cuja venda a firmas chinesas está proibida, e obtido dados de modelos norte‑americanos. Em 10 de setembro, a Anthropic relatou que a Moonshot teria encaminhado, de forma oculta, cerca de 300.000 pedidos de utilizadores para os seus modelos Claude por meio de 5.380 contas fraudulentas.
Leia a seguir: Dogecoin ganha camada de apps após 12 anos sem infraestrutura própria
