Investigadores militares chineses utilizaram saídas de modelos da OpenAI e da Anthropic para treinar sistemas de defesa nacionais, segundo uma análise a mais de 80 artigos académicos e registos de patentes.
Principais destaques:
- Revisão de mais de 80 estudos e patentes chinesas encontrou instituições ligadas às forças armadas a destilar modelos avançados dos EUA em sistemas locais menores.
- Uma unidade de ciber‑guerra do EPL forneceu código‑fonte militar sensível ao GPT‑3.5 e depois treinou um modelo doméstico com os resumos gerados.
- A Anthropic afirma não vender acesso comercial na China e alerta que modelos destilados podem perder salvaguardas presentes nos originais.
Destilação de modelos em mais de 80 estudos chineses
A análise de artigos e patentes chinesas, conduzida em parte com a Jamestown Foundation, sediada em Washington, revelou a utilização generalizada da técnica em instituições ligadas ao Exército de Libertação Popular. Os avaliadores identificaram ainda cerca de duas dezenas adicionais de casos com ligação direta ao aparelho militar.
Os documentos detalham processos de destilação de modelos – método que converte saídas de um sistema poderoso em dados de treino para modelos menores, capazes de operar em hardware mais modesto.
Um dos trabalhos, proveniente da Unidade 96941 do EPL, uma célula de inteligência militar e ciber‑guerra em Pequim, descreve como o GPT‑3.5 da OpenAI foi alimentado com código‑fonte militar sensível, retendo‑se depois apenas os resumos gerados. A equipa treinou então um modelo doméstico com esse material, permitindo que a ferramenta final funcionasse inteiramente nas redes militares chinesas, sem dependência de servidores estrangeiros.
A Casa Branca, o Pentágono, o ministério dos Negócios Estrangeiros da China, o EPL e a OpenAI não responderam a pedidos de comentário.
Veja também: Infraestrutura de IA, a desesperada aposta de 1 mil milhão de dólares de uma credora para dominar data centers
Sunny Cheung e o “raciocínio roubado” da IA
Sunny Cheung, investigador da Jamestown que analisou mais de 60 dos estudos, afirma que cientistas militares chineses estão a capturar de forma sistemática as cadeias de raciocínio de sistemas ocidentais.
Em declarações a jornalistas, Cheung explicou que os trabalhos alimentam capacidades de vigilância, operações de ciber‑guerra e apoio à decisão tática. Ensinar a um modelo apenas a resposta certa é relativamente simples, disse; conseguir transferir o processo de raciocínio que leva a essa resposta para um sistema mais pequeno é muito mais complexo.
Investigadores da North University of China, uma instituição associada ao complexo industrial de armamento do país, recorreram ao Claude 3 Haiku, da Anthropic, para gerar dados de treino sintéticos destinados a uma ferramenta de monitorização de redes sociais. A Anthropic sublinha que não vende acesso comercial ao Claude na China, que mantém sistemas de monitorização para detetar violações de política de uso e alerta que cópias destiladas podem perder os mecanismos de segurança incorporados no modelo original.
Limites da destilação e falhas no controlo de exportações
Trevor Koverko, cofundador da empresa de dados de IA Sapien, sustenta que modelos destilados continuam estruturalmente mais fracos do que os sistemas de origem. Em declarações à imprensa, ele caracterizou a prática como uma transferência de capacidades selecionadas para um sistema mais barato e sob controlo local, em vez de um verdadeiro caminho para autonomia face à IA de ponta desenvolvida no Ocidente.
Em paralelo, governos central e regionais na China têm canalizado financiamento para tecnologias de “lightweighting” de modelos e computação na periferia, direcionando subsídios para software capaz de correr em drones, satélites e outros dispositivos com recursos limitados.
A pressão em torno desta técnica tem vindo a aumentar há meses. Em julho, o secretário do Tesouro norte‑americano, Scott Bessent, ameaçou impor sanções a empresas chinesas que o seu departamento considere envolvidas em destilação de modelos. A startup Moonshot negou na semana passada que o seu modelo Kimi K3 recorra ao método, enquanto Pequim acusa Washington de perseguir uma política de “hegemonia em IA” e aponta para práticas semelhantes em empresas americanas.
A seguir: Rumores do iPhone dobrável ganham detalhe: 2.500 dólares, sem Face ID e sem teleobjetiva
