OpenAI заявила, что люди, связанные с китайским конкурентом Moonshot AI, были в центре кампании по извлечению скрытого рассуждения её моделей; пик пришёлся на июль и достиг 16 000 запросов.
Главное:
- OpenAI связала ключевой кластер июльской активности с людьми, ассоциированными с Moonshot, разработчиком Kimi.
- Операторы копировали зашифрованные блоки рассуждений между чатами, но не смогли взломать шифрование OpenAI.
- Moonshot публично не отреагировала, а власти Китая ранее отвергали обвинения в дистилляции.
OpenAI обвиняет Moonshot
OpenAI раскрыла детали инцидента в блоге в среду. По данным компании, активность началась с низкого уровня 1 июля. Затем она взлетела 24–25 июля, когда более 4 000 пользователей отправили 16 000 запросов по одинаковому шаблону извлечения.
Позднее компания выявила схожую активность более чем у 15 000 пользователей и полностью пресекла кампанию к 28 июля.
Связать всех операторов с одним актором не удалось, однако ключевой кластер был отнесён к людям, ассоциированным с Moonshot — китайским разработчиком моделей Kimi.
По архитектуре OpenAI скрывает промежуточное рассуждение модели до выдачи ответа. Операторы, по данным компании, копировали этот зашифрованный текст из одного диалога и просили модель в другом чате расшифровать и переписать его. При этом шифрование взломано не было, а к сохранённым пользовательским беседам злоумышленники доступа не получили. OpenAI заблокировала задействованные аккаунты, ужесточила процедуры регистрации и поделилась выводами с другими ИИ‑лабораториями и госструктурами.
Также читайте: Bitget восстановила страховой фонд выше $300 млн после возобновления выводов
Спор вокруг дистилляции OpenAI
Каролайн Зир, курирующая стратегические инициативы OpenAI по нацбезопасности, заявила, что компания выступает против нарушений пользовательского соглашения, «а не против открытых моделей или добросовестной дистилляции».
Сама по себе дистилляция — распространённая практика в отрасли. В своём посте OpenAI предупредила, что извлечённое рассуждение может быть использовано для обучения конкурирующей модели без встроенных защитных механизмов, фактически перенося продвинутые возможности «без сопоставимых инвестиций в безопасность». Дэвид Сакс, бывший «цифровой» куратор ИИ при президенте Дональде Трампе, назвал подобные сообщения попыткой добиться от Вашингтона запрета открытых моделей, которые ставят под угрозу бизнес OpenAI и Anthropic.
Под пристальным вниманием: Kimi от Moonshot
Moonshot до сих пор публично не ответила на обвинения. Китайские власти ранее отвергали аналогичные претензии по дистилляции со стороны американских компаний и администрации Трампа и предупреждали, что готовы ответить на возможные санкции США.
Moonshot представила модель Kimi K3 16 июля. Уже через несколько недель научный советник Белого дома Майкл Крацис заявил, что компания получила доступ к серверам Nvidia Blackwell, запрещённым к продаже китайским фирмам, и извлекла данные из американских моделей. Затем 10 сентября Anthropic сообщила, что Moonshot тайно перенаправила около 300 000 пользовательских запросов к её моделям Claude через 5 380 поддельных аккаунтов.
Читайте далее: У Dogecoin спустя 12 лет появится собственный прикладной слой
