Investigadores militares chinos han utilizado salidas de modelos de OpenAI y Anthropic para entrenar sistemas nacionales de defensa, según una revisión de más de 80 artículos académicos y patentes.
Puntos clave:
- Una revisión de más de 80 artículos y patentes chinos halló que instituciones vinculadas al Ejército Popular de Liberación están destilando modelos punteros estadounidenses en sistemas locales más pequeños.
- Una unidad de ciberguerra del EPL alimentó a GPT-3.5 con código fuente militar sensible y después entrenó un modelo propio con los resúmenes generados.
- Anthropic afirma que no vende acceso comercial en China y advierte de que las copias destiladas pueden perder los sistemas de protección originales.
Destilación de modelos en más de 80 trabajos chinos
La revisión de artículos académicos y patentes chinos, elaborada en parte con la Jamestown Foundation con sede en Washington, sacó a la luz esta práctica en instituciones vinculadas al Ejército Popular de Liberación. Los analistas identificaron además otras dos docenas de casos con relación militar.
Los documentos describen la destilación de modelos, un método que convierte las salidas de un sistema potente en datos de entrenamiento para modelos más pequeños que pueden ejecutarse en hardware limitado.
Un artículo de la Unidad 96941 del EPL, una unidad de inteligencia militar y ciberguerra con sede en Pekín, detallaba cómo alimentaron a GPT-3.5 de OpenAI con código fuente militar sensible y conservaron los resúmenes generados. El equipo entrenó después un modelo nacional con ese material para que la herramienta final pudiera operar íntegramente dentro de las redes militares chinas, sin depender de servidores extranjeros.
La Casa Blanca, el Pentágono, el Ministerio de Asuntos Exteriores de China, el EPL y OpenAI no respondieron a las peticiones de comentarios.
También lee: Infraestructura de IA: el giro desesperado de 1.000 millones de un prestamista para dominar los centros de datos
Sunny Cheung y el “razonamiento robado” de la IA
Sunny Cheung, investigador de Jamestown que analizó más de 60 de los trabajos, afirma que los científicos militares chinos están capturando de forma sistemática los pasos de razonamiento de los sistemas occidentales.
Dijo a los periodistas que estos desarrollos alimentan capacidades de vigilancia, ciberguerra y toma de decisiones tácticas. Enseñar a un modelo la respuesta correcta es una cosa, señaló Cheung, pero trasladar el razonamiento que conduce a esa respuesta a un sistema más pequeño es mucho más complejo.
Investigadores de la North University of China, una institución vinculada a la industria armamentística del país, utilizaron Claude 3 Haiku de Anthropic para generar datos sintéticos de entrenamiento para una herramienta de monitorización de redes sociales. Anthropic sostiene que no vende acceso comercial a Claude en China, que opera sistemas de vigilancia para detectar infracciones de sus políticas, y advierte de que las copias destiladas pueden desprenderse de las salvaguardas incorporadas en el modelo original.
Límites de la destilación y lagunas en los controles de exportación
Trevor Koverko, cofundador de la empresa de datos de IA Sapien, señala que los modelos destilados siguen siendo más débiles que los sistemas de origen. Calificó la práctica como una transferencia de capacidades seleccionadas a un sistema más barato y bajo control local, más que una vía para lograr independencia respecto a la IA de frontera.
Mientras tanto, los gobiernos central y locales en China han financiado iniciativas de aligeramiento de modelos y computación en el borde, canalizando subvenciones hacia software que pueda ejecutarse en drones, satélites y otros dispositivos con recursos limitados.
La presión en torno a esta técnica lleva meses aumentando, y el secretario del Tesoro, Scott Bessent, amenazó en julio con sanciones a las empresas chinas que su departamento considere culpables de recurrir a la destilación. La startup Moonshot negó la semana pasada que su modelo Kimi K3 se base en ese método, mientras Pekín acusa a Washington de perseguir una hegemonía en IA y señala prácticas similares en empresas estadounidenses.
Lee a continuación: Rumores del iPhone plegable se concretan: 2.500 dólares, sin Face ID y sin teleobjetivo