OpenAI poinformowało, że osoby powiązane z chińskim konkurentem Moonshot AI stały w centrum skoordynowanej kampanii, której celem było wydobycie ukrytego rozumowania jego modeli. Kulminacja działań nastąpiła w lipcu, gdy liczba zapytań sięgnęła 16 tys.
Najważniejsze ustalenia:
- OpenAI powiązało kluczowy klaster lipcowej aktywności z osobami związanymi z Moonshot, twórcą modelu Kimi.
- Operatorzy kopiowali zaszyfrowane rozumowanie między czatami, ale nie złamali szyfrowania OpenAI.
- Moonshot publicznie nie zareagował; Chiny wcześniej odrzucały podobne zarzuty dotyczące destylacji modeli.
OpenAI oskarża Moonshot
OpenAI ujawniło swoje ustalenia w środowym wpisie na blogu. Jak podano, aktywność rozpoczęła się w niewielkiej skali 1 lipca. Następnie gwałtownie wzrosła 24 i 25 lipca, gdy ponad 4 tys. użytkowników wysłało łącznie 16 tys. zapytań według tego samego schematu wydobywania danych.
Firma później zidentyfikowała powiązane działania wśród ponad 15 tys. użytkowników i całkowicie zablokowała kampanię do 28 lipca.
Nie udało się powiązać wszystkich kont z jednym podmiotem, jednak kluczowy klaster OpenAI przypisało osobom związanym z Moonshot, chińskim deweloperem modeli Kimi.
OpenAI ukrywa wewnętrzne rozumowanie swoich modeli przed wygenerowaniem odpowiedzi. Według firmy operatorzy kopiowali ten zaszyfrowany tekst z jednej rozmowy i wklejali go do innego czatu, prosząc model o jego transkrypcję. Nie doszło jednak ani do złamania szyfrowania, ani do uzyskania dostępu do zapisanych rozmów użytkowników. OpenAI zablokowało zaangażowane konta, zaostrzyło procedury rejestracji i podzieliło się ustaleniami z innymi laboratoriami AI oraz odpowiednimi instytucjami rządowymi.
Zobacz też: Bitget przywraca fundusz ochronny powyżej 300 mln USD po wznowieniu wypłat
Obawy OpenAI dotyczące destylacji modeli
Caroline Zier, odpowiedzialna w OpenAI za strategiczne inicjatywy w obszarze polityki bezpieczeństwa narodowego, podkreśliła, że firma sprzeciwia się naruszeniom regulaminu świadczenia usług, „a nie otwartym modelom czy legalnej destylacji”.
Sama destylacja jest powszechną praktyką w branży. W swoim wpisie OpenAI ostrzegło, że pozyskane w ten sposób rozumowanie może posłużyć do trenowania konkurencyjnych modeli pozbawionych oryginalnych zabezpieczeń, co przenosi zaawansowane możliwości „bez ponoszenia porównywalnych nakładów na bezpieczeństwo”. David Sacks, były „car ds. AI” prezydenta Donalda Trumpa, określił tego typu doniesienia jako próbę skłonienia władz w Waszyngtonie do zakazu otwartych modeli, które podważają modele biznesowe OpenAI i Anthropic.
Rosnąca presja wokół Moonshot i Kimi
Moonshot jak dotąd nie odniósł się publicznie do oskarżeń. Rząd Chin odrzucał wcześniejsze zarzuty amerykańskich firm i administracji Trumpa dotyczące destylacji modeli oraz ostrzegał, że odpowie na ewentualne amerykańskie sankcje.
Moonshot uruchomił model Kimi K3 16 lipca. W ciągu kilku tygodni doradca naukowy Białego Domu Michael Kratsios stwierdził, że firma uzyskała dostęp do serwerów Nvidia Blackwell, objętych zakazem sprzedaży chińskim podmiotom, oraz pobierała dane z amerykańskich modeli. Następnie 10 września Anthropic poinformował, że Moonshot miał potajemnie przekierować ok. 300 tys. zapytań użytkowników do modeli Claude za pośrednictwem 5 380 fałszywych kont.
Przeczytaj również: Dogecoin zyskuje warstwę aplikacyjną po 12 latach bez takiej funkcji
