Pesquisadores militares chineses recorreram a saídas de modelos da OpenAI e da Anthropic para treinar sistemas domésticos de defesa, segundo uma revisão de mais de 80 artigos acadêmicos e pedidos de patente.
Principais pontos:
- Revisão de mais de 80 estudos e patentes chinesas identificou instituições ligadas às Forças Armadas destilando modelos avançados dos EUA em sistemas locais menores.
- Uma unidade de guerra cibernética do Exército chinês alimentou o GPT-3.5 com código-fonte militar sensível e depois treinou um modelo doméstico com os resumos gerados.
- A Anthropic afirma não vender acesso comercial na China e alerta que cópias destiladas podem perder salvaguardas de segurança embutidas nos modelos originais.
Destilação de modelos em mais de 80 trabalhos chineses
A revisão de artigos acadêmicos e patentes da China, realizada em parte com apoio da Jamestown Foundation, sediada em Washington, revelou a prática em instituições associadas ao Exército de Libertação Popular. Os analistas mapearam ainda cerca de duas dezenas adicionais de estudos de caso com participação militar.
Os documentos descrevem a destilação de modelos, técnica que converte saídas de um sistema poderoso em dados de treinamento para modelos menores, capazes de rodar em hardware mais modesto.
Um desses trabalhos, assinado pela Unidade 96941 do Exército chinês — ligada à inteligência militar e à guerra cibernética em Pequim — relata o envio de código-fonte militar sensível ao GPT-3.5 da OpenAI, mantendo apenas os resumos produzidos. A equipe então treinou um modelo doméstico em cima desse material, para que a ferramenta final pudesse operar inteiramente dentro das redes militares chinesas, sem depender de servidores estrangeiros.
Casa Branca, Departamento de Defesa dos EUA, Ministério das Relações Exteriores da China, Exército de Libertação Popular e OpenAI não responderam aos pedidos de comentário.
Veja também: Infraestrutura de IA, a desesperada guinada de US$ 1 bi de uma financeira para dominar data centers
Sunny Cheung e o “raciocínio roubado” da IA
Sunny Cheung, pesquisador da Jamestown que analisou mais de 60 dos trabalhos, afirma que cientistas militares chineses estão capturando sistematicamente as etapas de raciocínio de sistemas ocidentais.
Ele disse a jornalistas que esse esforço alimenta aplicações de vigilância, operações cibernéticas e apoio à tomada de decisão tática. Ensinar um modelo a chegar à resposta correta é uma coisa, destacou Cheung; transferir o processo de raciocínio por trás dessa resposta para um sistema menor é muito mais complexo.
Pesquisadores da North University of China, instituição associada à indústria bélica do país, usaram o Claude 3 Haiku, da Anthropic, para gerar dados sintéticos de treinamento destinados a uma ferramenta de monitoramento de redes sociais. A Anthropic enfatiza que não vende acesso comercial ao Claude na China, mantém sistemas de monitoramento para flagrar violações de política de uso e alerta que modelos destilados podem descartar salvaguardas embutidas na versão original.
Limites da destilação e lacunas no controle de exportações
Trevor Koverko, cofundador da empresa de dados de IA Sapien, avalia que modelos destilados continuam inferiores aos sistemas que copiam. Ele classificou a prática como uma transferência de capacidades selecionadas para um sistema mais barato e sob controle local, em vez de uma verdadeira independência em relação à IA de fronteira.
Paralelamente, governos central e locais na China vêm financiando iniciativas de “lightweighting” de modelos e computação de borda, canalizando subsídios para softwares capazes de rodar em drones, satélites e outros dispositivos com recursos limitados.
A pressão em torno dessa técnica vem crescendo há meses. Em julho, o secretário do Tesouro dos EUA, Scott Bessent, ameaçou impor sanções a empresas chinesas que seu departamento considerar responsáveis pela destilação de modelos avançados. A startup Moonshot negou na semana passada que seu modelo Kimi K3 utilize essa abordagem, enquanto Pequim acusa Washington de buscar “hegemonia em IA” e aponta práticas semelhantes em empresas americanas.
Leia a seguir: Rumores sobre iPhone dobrável ganham detalhes: US$ 2.500, sem Face ID e sem teleobjetiva