OpenAI poinformowało, że osoby powiązane z chińskim konkurentem Moonshot AI stały w centrum skoordynowanej akcji mającej wydobyć ukryte rozumowanie jej modeli. Kulminacją było 16 tys. zapytań wysłanych w lipcu.
Kluczowe informacje:
- OpenAI powiązało główny klaster lipcowej aktywności z osobami związanymi z Moonshot, twórcą modelu Kimi.
- Operatorzy kopiowali zaszyfrowane rozumowanie między czatami, ale nie złamali szyfrowania OpenAI.
- Moonshot publicznie nie zajął stanowiska, a Chiny odrzucają wcześniejsze zarzuty dotyczące „destylacji”.
Zarzuty OpenAI wobec Moonshot
OpenAI ujawniło ustalenia w środowym wpisie na firmowym blogu. Według spółki aktywność rozpoczęła się na niewielką skalę 1 lipca. Później gwałtownie wzrosła 24 i 25 lipca, gdy ponad 4 tys. użytkowników wysłało łącznie 16 tys. zapytań, korzystając z tego samego schematu ekstrakcji.
Późniejsza analiza wykazała powiązaną aktywność wśród ponad 15 tys. kont. Kampania została w pełni zablokowana do 28 lipca.
OpenAI nie zdołało jednoznacznie przypisać wszystkich operatorów jednemu podmiotowi, ale „rdzeń” działań powiązało z osobami związanymi z Moonshot – chińskim twórcą modeli Kimi.
Modele OpenAI ukrywają swoje wewnętrzne rozumowanie przed wygenerowaniem odpowiedzi. Według spółki operatorzy kopiowali zaszyfrowany tekst z jednej rozmowy i wklejali go do innego czatu, prosząc model o jego transkrypcję. Nie udało im się jednak złamać szyfrowania ani uzyskać dostępu do zapisanych rozmów użytkowników. OpenAI zablokowało powiązane konta, zaostrzyło wymogi przy rejestracji oraz przekazało ustalenia innym laboratoriom AI i odpowiednim instytucjom rządowym.
Zobacz także: Bitget przywraca fundusz ochronny powyżej 300 mln dol., gdy wypłaty wracają
Obawy OpenAI wokół „destylacji” modeli
Caroline Zier, odpowiedzialna w OpenAI za strategiczne inicjatywy z zakresu bezpieczeństwa narodowego, podkreśliła, że firma sprzeciwia się łamaniu warunków korzystania z usług, „a nie otwartym modelom czy legalnej destylacji”.
Sama destylacja – czyli trenowanie jednego modelu na podstawie zachowania innego – jest powszechną praktyką w branży. W swoim wpisie OpenAI ostrzegło jednak, że przechwycone „rozumowanie” mogłoby posłużyć do wyszkolenia konkurencyjnego modelu pozbawionego oryginalnych zabezpieczeń, przenosząc zaawansowane możliwości „bez ponoszenia takich samych nakładów na bezpieczeństwo”.
David Sacks, były „car ds. AI” prezydenta Donalda Trumpa, określił takie raporty jako próbę wymuszenia na Waszyngtonie zakazu otwartych modeli, które zagrażają modelom biznesowym OpenAI i Anthropic.
Kimi od Moonshot pod lupą
Moonshot nie odniósł się publicznie do oskarżeń OpenAI. Rząd w Pekinie wcześniej odrzucał zarzuty amerykańskich firm i administracji Trumpa dotyczące nielegalnej destylacji oraz ostrzegał, że odpowie na ewentualne amerykańskie sankcje.
Moonshot zaprezentował model Kimi K3 16 lipca. W ciągu kilku tygodni doradca naukowy Białego Domu Michael Kratsios twierdził, że spółka miała dostęp do serwerów Nvidia Blackwell, objętych zakazem sprzedaży do Chin, oraz pobierała dane z amerykańskich modeli. Następnie 10 września Anthropic poinformował, że Moonshot potajemnie przekierował ok. 300 tys. zapytań użytkowników do swoich modeli Claude poprzez 5 380 fałszywych kont.
Czytaj dalej: Dogecoin doczeka się warstwy aplikacyjnej po 12 latach
