OpenAI заявила, що люди, пов’язані з китайським конкурентом Moonshot AI, стояли в центрі кампанії зі збирання прихованих ланцюжків міркувань її моделей. Пік активності, за даними компанії, припав на липень і сягнув 16 000 запитів.
Головне:
- OpenAI пов’язала ключове осереддя липневої активності з людьми, дотичними до Moonshot, розробника Kimi.
- Оператори копіювали зашифровані ланцюжки міркувань між чатами, але не зламали шифрування OpenAI.
- Moonshot публічно не відреагувала, а китайська влада раніше заперечувала звинувачення у дистиляції моделей.
OpenAI звинувачує Moonshot
OpenAI розкрила деталі розслідування у блозі в середу. За словами компанії, перші, поодинокі запити з’явилися 1 липня. Потім активність різко зросла 24–25 липня, коли понад 4 000 користувачів надіслали 16 000 запитів за однаковим шаблоном вилучення даних.
Згодом OpenAI виявила споріднену активність уже у понад 15 000 облікових записах і повністю зупинила кампанію до 28 липня.
Компанія не змогла однозначно прив’язати всіх операторів до одного замовника, але «ядро» кластеру, за її оцінкою, пов’язане з людьми, асоційованими з Moonshot — китайським розробником моделей Kimi.
У моделях OpenAI проміжні міркування приховуються до формування відповіді. За словами компанії, зловмисники копіювали цей зашифрований текст з однієї розмови й передавали його в іншу сесію, просячи іншу модель розшифрувати та відтворити вміст. При цьому шифрування не було зламане, а до збережених переписок користувачів доступу не отримали.
OpenAI заблокувала відповідні облікові записи, посилила процедури верифікації під час реєстрації та поділилася технічними висновками з іншими лабораторіями ШІ та держорганами.
Також читайте: Bitget відновила захисний фонд понад $300 млн після поновлення виведення коштів
Стурбованість OpenAI через дистиляцію моделей
Керолайн Зір, яка очолює напрям стратегічної політики нацбезпеки в OpenAI, заявила, що компанія виступає проти порушень своїх умов користування сервісом, а не проти «відкритих моделей чи легітимної дистиляції».
Сама по собі дистиляція — поширена в індустрії практика, коли можливості потужніших моделей переносять у компактніші системи. У своєму блозі OpenAI попереджає, що вилучені ланцюжки міркувань можна використати для тренування конкуруючої моделі без початкових запобіжників: це потенційно дозволяє перенести передові можливості «без такого ж рівня інвестицій у безпеку».
Втім, колишній «цар ШІ» президента Дональда Трампа, Девід Сакс, назвав подібні звіти спробою схилити Вашингтон до заборони відкритих моделей, які становлять бізнес-виклик для OpenAI та Anthropic.
Пильна увага до Moonshot і Kimi
Moonshot публічно не коментувала нові звинувачення. Китайська влада раніше заперечувала претензії щодо дистиляції з боку американських компаній та адміністрації Трампа й попереджала, що відповість на будь-які санкції з боку США.
Moonshot запустила модель Kimi K3 16 липня. Уже за кілька тижнів науковий радник Білого дому Майкл Кратсіос заявив, що компанія отримала доступ до серверів Nvidia Blackwell, заборонених до продажу китайським фірмам, і витягнула дані з американських моделей ШІ. А 10 вересня Anthropic повідомила, що Moonshot нібито таємно спрямувала близько 300 000 користувацьких запитів до її моделей Claude через 5 380 фіктивних акаунтів.
Читайте далі: Dogecoin нарешті отримує прикладний шар через 12 років після запуску
