OpenAI повідомила, що особи, пов’язані з китайським конкурентом Moonshot AI, стояли в центрі скоординованої спроби витягти приховане міркування її моделей; пік активності припав на липень і сягнув 16 000 запитів.
Головне:
- OpenAI прив’язала ключове ядро липневої активності до людей, асоційованих із Moonshot, розробником Kimi.
- Оператори копіювали зашифроване міркування між чатами, але не зламали шифрування OpenAI.
- Moonshot публічно не відреагувала, а Китай раніше заперечував звинувачення в дистиляції моделей.
OpenAI звинувачує Moonshot
OpenAI розкрила свої висновки в блозі у середу. За даними компанії, активність стартувала з невеликого обсягу 1 липня. Згодом вона різко зросла 24–25 липня, коли понад 4 000 користувачів надіслали 16 000 запитів за однаковим шаблоном вилучення.
Пізніше компанія виявила споріднену активність більш ніж у 15 000 користувачів і повністю зупинила кампанію до 28 липня.
OpenAI не змогла однозначно пов’язати кожного оператора з одним замовником, однак ядро активності вона приписала людям, пов’язаним із Moonshot, китайським розробником моделей Kimi.
OpenAI приховує проміжне міркування своїх моделей до формування відповіді. За словами компанії, оператори копіювали цей зашифрований текст із однієї розмови й просили модель в іншому чаті розшифрувати й переписати його. При цьому шифрування зламано не було, до збережених діалогів користувачів зловмисники не дісталися. OpenAI вже заблокувала пов’язані акаунти, посилила перевірки при реєстрації та поділилася висновками з іншими лабораторіями ШІ й державними структурами.
Також читайте: Bitget відновлює страховий фонд понад $300 млн на тлі відновлення виведення коштів
Суперечки навколо дистиляції моделей OpenAI
Керолайн Зієр, яка відповідає за стратегічну політику нацбезпеки в OpenAI, заявила, що компанія заперечує «порушення умов користування, а не відкриті моделі чи добросовісну дистиляцію».
Сама по собі дистиляція є звичною практикою в індустрії. У своєму дописі OpenAI попередила, що вилучене міркування може бути використане для навчання конкуруючої моделі без вбудованих запобіжників, що дозволяє перенести просунуті можливості «без зіставних інвестицій у безпеку». Девід Сакс, колишній «шеф зі штучного інтелекту» президента Дональда Трампа, назвав подібні звіти спробою добитися заборони відкритих моделей у Вашингтоні, які становлять загрозу бізнесу OpenAI та Anthropic.
Пильна увага до Moonshot і Kimi
Moonshot поки не висловилася публічно щодо цих звинувачень. Уряд КНР раніше відкинув закиди американських компаній і адміністрації Трампа в дистиляції моделей і попередив, що відповість на будь-які санкції США.
Moonshot запустила свою модель Kimi K3 16 липня. Уже за кілька тижнів науковий радник Білого дому Майкл Крацос заявив, що компанія отримала доступ до серверів Nvidia Blackwell, заборонених до продажу китайським фірмам, і викачувала дані з американських моделей. А 10 вересня Anthropic повідомила, що Moonshot таємно спрямувала близько 300 000 користувацьких запитів до її моделей Claude через 5 380 фіктивних акаунтів.
Читайте далі: Dogecoin отримує аплікативний шар після 12 років без нього
