Anthropic poinformował, że nowe zabezpieczenia w Claude ograniczyły ilość danych wyciąganych w atakach destylacyjnych o ok. 90–99%. Spółka po raz pierwszy z nazwy wskazała też chińskie Z.ai jako jedną z firm, które próbowały kopiować jej model.
Najważniejsze:
- Anthropic twierdzi, że nowe mechanizmy obronne zmniejszyły skalę danych pobieranych z Claude'a przez „destylatorów” o ok. 90–99%.
- Firma zablokowała dziesiątki tysięcy kont powiązanych z kampaniami destylacyjnymi.
- Anthropic podaje, że Z.ai (Zhipu) próbowało destylować Claude'a przy budowie modelu GLM-5.3.
Obrona Claude'a przed destylacją
Anthropic opisał wyniki badań w materiale opublikowanym w poniedziałek, 12 października, podsumowując zmiany wprowadzane w ostatnich miesiącach. Firma podała, że wstępne dane pokazują spadek wolumenu danych wyciąganych przez destylację o ok. 90–99%, choć zastrzegła, że nie wie, na jak długo te efekty się utrzymają. Rdzeniem nowych zabezpieczeń jest ochrona „rozumowania” Claude'a – szczegółowych kroków myślowych modelu poprzedzających finalną odpowiedź.
W modelach Claude Fable 5.1 i Claude Opus 5.5 nowe konta API utworzone 31 sierpnia lub później nie mogą już edytować wcześniejszego kontekstu Claude'a – funkcji, którą Anthropic określa jako „preserved thinking”. Dodatkowo wprowadzono dwustopniowy klasyfikator, który blokuje próby ekstrakcji przy odsetku fałszywych alarmów poniżej 0,1%. Według spółki destylatorzy wyciągają teraz od 10 do 100 razy mniej tokenów związanych z rozumowaniem niż wcześniej.
Anthropic masowo czyści też infrastrukturę: zablokował już dziesiątki tysięcy powiązanych ze sobą kont, często w ciągu zaledwie dwóch godzin od wykrycia podejrzanej aktywności.
Przeczytaj także: GPT-6.1 Sol pomógł Asanie 76-krotnie obniżyć koszty agentów, ale jest haczyk
Zarzuty wobec Z.ai o destylację
Destylacja polega na trenowaniu mniejszego modelu na odpowiedziach modelu silniejszego. OpenAI i Google, podobnie jak Anthropic, przekonują, że ta technika pozwala konkurentom szybko i tanio kopiować zaawansowane możliwości ich rozwiązań. Kluczowe znaczenie mają zapisy „rozumowania”, czyli pełne ścieżki myślenia. W testach Anthropic model uczony na pełnym rozumowaniu Claude'a uzyskał 80,4% w benchmarku programistycznym SWE-bench Verified, wobec 71,8% przy trenowaniu wyłącznie na streszczeniach.
Spółka ostrzegła, że takie kopiowanie tworzy ryzyka dla bezpieczeństwa i obronności państw, ponieważ zdestylowane modele często trafiają do szerokiego obiegu bez proporcjonalnie silnych zabezpieczeń. Według Anthropic Z.ai, znane również jako Zhipu, próbowało destylować Claude Fable 5 przy budowie GLM-5.3, a po osłabieniu skuteczności ataków przez zabezpieczenia cybernetyczne przestawiło się na starszą wersję Claude'a oraz model innego laboratorium. Z.ai nie odpowiedziało na prośbę o komentarz.
Dane przedstawione przez Anthropic nie zostały dotąd niezależnie potwierdzone. Firma przyznała też, że nowe mechanizmy wiążą się z kosztami: zrezygnowano z części przychodów, wprowadzono zmiany integracyjne dla części deweloperów, pojawiają się też sporadyczne blokady w pełni legalnych zapytań oraz opłaty za żądania, które zostały odrzucone. Pobieranie opłat za blokowane zapytania wznowiono 24 września.
Ogłoszenie Anthropic wpisuje się w trwającą od miesięcy serię oskarżeń. W lutym spółka zarzuciła firmom DeepSeek, Moonshot AI i MiniMax, że wygenerowały ponad 16 milionów interakcji z Claude'em, korzystając z ok. 24 tys. fałszywych kont, aby ulepszyć własne modele. Z kolei 17 września amerykańscy ewaluatorzy z National Institute of Standards and Technology ocenili GLM-5.3 jako najbardziej zaawansowany cybernetycznie model „open-weight” dostępny publicznie, choć wciąż ma on około czteromiesięczne opóźnienie względem czołowych modeli z USA.
Warto przeczytać: Francuscy posiadacze krypto mogą zapłacić nawet 10 000 euro za niezadeklarowane portfele
