Китайские военные исследователи используют результаты работы моделей OpenAI и Anthropic для обучения собственных оборонных ИИ‑систем. К такому выводу пришли авторы обзора более чем 80 научных статей и патентов.
Ключевые моменты
- Анализ свыше 80 китайских публикаций и патентов показал, что структуры, связанные с военными, дистиллируют передовые американские модели в более компактные локальные системы.
- Одно из киберподразделений НОАК передавало GPT‑3.5 чувствительный военный исходный код, а затем обучало отечественную модель на полученных им конспектах.
- В Anthropic заявили, что не продают коммерческий доступ к своим моделям в Китае, и предупредили: при дистилляции часто теряются встроенные защитные механизмы.
Дистилляция моделей в более чем 80 китайских работах
Обзор китайских научных публикаций и патентов, подготовленный в том числе совместно с вашингтонским аналитическим центром Jamestown Foundation, выявил широкое использование этого подхода в институтах, связанных с Народно‑освободительной армией Китая. Эксперты дополнительно обнаружили ещё около двух десятков кейсов с участием военных структур.
Описываемая в документах дистилляция моделей — это метод, при котором ответы и рассуждения мощной ИИ‑системы превращаются в обучающие данные для более компактных моделей, способных работать на относительно скромном «железе».
В одной из работ подразделения НОАК 96941 — это военная структура радиоэлектронной разведки и киберопераций в Пекине — рассказывается, как исследователи подавали в GPT‑3.5 от OpenAI чувствительный военный исходный код и сохраняли созданные моделью резюме. На этом материале затем обучили отечественную модель, чтобы итоговый инструмент полностью работал внутри сетей китайских военных, без обращения к зарубежным серверам.
Белый дом, Пентагон, МИД КНР, НОАК и OpenAI запросы о комментариях оставили без ответа.
Читайте также: ИИ‑инфраструктура: как микрокредитор в отчаянии переворачивает бизнес ради $1 млрд на дата‑центрах
Сани Чан о «краже» цепочек рассуждений ИИ
По словам Сани Чана, научного сотрудника Jamestown Foundation, который проанализировал более 60 работ, китайские военные системно «снимают» цепочки рассуждений западных ИИ‑систем.
Он заявил журналистам, что эти наработки питают системы слежки, кибервойны и тактической поддержки командиров. Одно дело — научить модель выдавать «правильный ответ», подчеркнул Чан, и совсем другое — перенести саму логику рассуждений в более компактную локальную систему.
Исследователи Северного университета Китая, который связывают с оборонно‑промышленным комплексом страны, использовали Claude 3 Haiku от Anthropic для генерации синтетических данных, применяемых при обучении системы мониторинга соцсетей. В Anthropic уточнили, что не продают коммерческий доступ к Claude в Китае, используют системы мониторинга нарушений политики и предупреждают: дистиллированные копии могут утратить защитные ограничения, заложенные в исходную модель.
Ограничения дистилляции и дыры в экспортном контроле
По оценке Тревора Коверко, сооснователя ИИ‑компании Sapien, дистиллированные модели всё равно уступают по возможностям исходным системам. Он назвал происходящее «переносом отдельных функций в более дешёвую, подконтрольную локальную систему», а не обретением полной технологической независимости от передовых зарубежных ИИ.
Параллельно центральные и местные власти Китая активно финансируют «облегчение» моделей и edge‑вычисления, направляя субсидии в софт, который можно запускать на дронах, спутниках и других устройствах с ограниченными ресурсами.
Давление вокруг практики дистилляции растёт уже несколько месяцев. Министр финансов США Скотт Бессент в июле пригрозил санкциями китайским компаниям, которые его ведомство сочтёт причастными к такому использованию зарубежных ИИ‑систем. Стартап Moonshot на прошлой неделе опроверг, что его модель Kimi K3 опирается на дистилляцию, тогда как Пекин обвиняет Вашингтон в «ИИ‑гегемонии» и указывает на аналогичные практики у американских компаний.
Читайте далее: Складной iPhone: слухи становятся конкретнее — $2 500, без Face ID и без зума‑телевика
