Anthropic i jego Claude Fable 5 mogą po cichu ograniczać swoją skuteczność w odpowiedzi na niektóre zaawansowane prośby dotyczące rozwoju systemów AI, nie informując o tym użytkowników, co tworzy nowy problem zaufania dla deweloperów, którzy coraz bardziej polegają na asystentach AI jako części swojego procesu tworzenia oprogramowania.
Według fragmentu karty modelu Fable 5, który krążył w tym tygodniu, Anthropic wdrożył nowe interwencje ograniczające skuteczność Claude’a przy żądaniach ukierunkowanych na rozwój dużych modeli językowych klasy frontier, w tym prac nad pipeline’ami pretrenowania, rozproszoną infrastrukturą treningową i projektowaniem akceleratorów ML.
Firma twierdzi, że wykorzystywanie Claude’a do tworzenia konkurencyjnych modeli już narusza jej warunki korzystania z usługi. Istotniejsze jest jednak to, w jaki sposób to ograniczenie jest egzekwowane. W przeciwieństwie do zabezpieczeń dotyczących cyberbezpieczeństwa, biologii, chemii i prób destylacji, Anthropic twierdzi, że te interwencje nie będą widoczne dla użytkowników.
Claude nie przełączy się na inny model. Zamiast tego zabezpieczenia mogą ograniczać skuteczność poprzez metody takie jak modyfikacja promptu, wektory sterujące czy parametrycznie efektywne dostrajanie.
To oznacza, że Claude może nie odmówić wykonania prośby. Może po prostu stać się mniej pomocny.
Ukryte zabezpieczenia tworzą problem z debugowaniem
Problemem nie jest wyłącznie to, czy Anthropic powinien uniemożliwiać swoim modelom pomaganie konkurentom w budowie systemów frontier AI. Bardziej wyostrzone pytanie brzmi, czy deweloperzy mogą ufać asystentowi AI, jeśli nie wiedzą, kiedy przestał on optymalizować pod ich sukces.
Jeśli Claude udzieli słabej odpowiedzi na problem związany z treningiem modelu, deweloper nie będzie wiedział, czy model źle zrozumiał zadanie, nie miał odpowiedniego kontekstu, napotkał realne ograniczenie techniczne czy został po cichu ograniczony przez politykę.
Ta niejednoznaczność ma znaczenie, ponieważ asystenci AI nie są już tylko chatbotami. Stają się częścią łańcucha dostaw oprogramowania. Deweloperzy używają ich do pisania kodu, debugowania infrastruktury, analizowania problemów z wdrażaniem i projektowania systemów opartych na modelach.
Kiedy narzędzie deweloperskie może po cichu obniżyć jakość wyników, debugowanie staje się trudniejsze. Użytkownik musi zgadywać, czy problem tkwi w jego kodzie, w rozumowaniu modelu, czy w niewidocznej interwencji dostawcy.
Granica wokół frontier AI się zaciera
Przykłady podawane przez Anthropic koncentrują się na rozwoju LLM-ów klasy frontier, ale granica między pracami nad frontier AI a zwykłym rozwojem produktów staje się coraz mniej wyraźna.
Współczesne firmy programistyczne coraz częściej budują własne systemy osadzania (embeddings), rerankery, modele rekomendacyjne i pipeline’y oparte na małych modelach językowych. Startupy dostrajają modele, hostują je wewnętrznie i adaptują systemy open source do konkretnych produktów.
Prace, które kiedyś wyglądały jak badania na granicy nauki, dziś są częścią normalnego rozwoju oprogramowania. Pięć lat temu budowa lub adaptacja modeli takich jak CLIP należała głównie do laboratoriów badawczych. Dziś małe zespoły mogą dostrajać modele wizja–język dla podróży, handlu, wyszukiwania, aplikacji społecznościowych i produktów analitycznych.
Also Read: Anthropic Prices Claude Mythos 5 At $10 Per Million Tokens, Claims It's The Most Powerful Model Ever
To sprawia, że niewidoczne ograniczenia mają większe konsekwencje. Mały startup może wcale nie próbować budować modelu frontier. Może po prostu ulepszać produkt wyszukiwawczy lub trenować własny system rankingowy. Ale jeśli jego prace nachodzą na granicę polityki, która nie jest jasno ujawniana w czasie rzeczywistym, odpowiedzi Claude’a mogą stać się nieprzewidywalne bez ostrzeżenia.
Strategia bezpieczeństwa Anthropic staje się wielowarstwowa
Kontrowersja pojawia się w czasie szerszego wdrożenia Anthropic wokół Claude Fable i Claude Mythos.
Yellow wcześniej informował, że Anthropic uruchomił Claude Mythos 5 jako system ograniczony dla partnerów Project Glasswing i amerykańskich obrońców cyberbezpieczeństwa, podczas gdy Fable 5 został udostępniony publicznie z dodatkowymi warstwami bezpieczeństwa. Doniesiono, że Fable 5 przekierowuje wrażliwe zapytania z zakresu cyberbezpieczeństwa i biologii do Claude Opus 4.8, przy czym zabezpieczenia uruchamiają się w mniej niż 5% sesji.
Taka struktura pokazywała, że Anthropic stara się równoważyć możliwości i ryzyko: najbardziej zaawansowany model do cyberbezpieczeństwa pozostaje ograniczony, podczas gdy model publiczny posiada dodatkowe mechanizmy kontroli.
Yellow informował także, że profesor Wharton Ethan Mollick przetestował wczesną wersję Claude Fable i opisał ją jako prawdziwy skok. Mollick stwierdził, że model tworzył zaawansowane prace akademickie i radził sobie złożonymi zadaniami, ale jednocześnie budził niepokój, ponieważ ujawniał bardzo niewiele na temat wielu decyzji podejmowanych podczas ich wykonywania.
Nowa obawa związana z cichymi zabezpieczeniami dotyczącymi rozwoju AI wpisuje się w ten sam schemat. Wraz ze wzrostem możliwości modelu jego nieprzejrzystość staje się coraz ważniejsza.
Zespoły z branży krypto i DeFi stoją przed podobnym ryzykiem
Dla deweloperów krypto i DeFi problem ma dodatkowy wymiar.
Yellow wcześniej informował, że rynki kryptowalut już przyglądały się Claude Fable z obawy, że silniejsze modele AI mogą przyspieszyć odkrywanie exploitów. Chodziło nie tylko o smart kontrakty, które największe protokoły dokładnie audytują, lecz także o front-endy, rozszerzenia przeglądarek, mosty i serwery przechowujące klucze prywatne.
Na tym tle ograniczenia Anthropic są zrozumiałe z perspektywy bezpieczeństwa. Wysoce zaawansowany model, który pomaga budować lub atakować systemy AI, mógłby tworzyć poważne ryzyka dla bezpieczeństwa.
Ta sama nieprzejrzystość może jednak rodzić problemy obronne. Jeśli zespół DeFi używa Claude’a do wzmacniania infrastruktury, audytu kodu tworzonego przy wsparciu modeli lub ulepszania wewnętrznych narzędzi AI, niejasne granice interwencji mogą sprawić, że asystent stanie się mniej godny zaufania dokładnie wtedy, gdy precyzja ma kluczowe znaczenie.
Następny spór dotyczy ujawniania ograniczeń
Anthropic twierdzi, że zabezpieczenia wpływają tylko na niewielką część deweloperów. Ale istotna z punktu widzenia przyszłości nie jest dzisiejsza liczba, lecz to, czy dostawcy AI powinni ujawniać, kiedy systemy bezpieczeństwa w istotny sposób zmieniają jakość odpowiedzi.
Odmowa jest jasna. Ostrzeżenie jest jasne. Model, który po cichu staje się mniej skuteczny, jest znacznie trudniejszy do oceny.
To rozróżnienie może stać się kluczowe, gdy asystenci AI wejdą głębiej w procesy tworzenia oprogramowania. Przedsiębiorstwa mogą zaakceptować ograniczenia dotyczące niebezpiecznych wyników, ale prawdopodobnie będą domagać się przejrzystości, gdy te ograniczenia dotkną niezawodności.
Read Next: Crypto Hack Fears Grow Around Anthropic’s Possible Claude Fable Release