Anthropic opublikował we wtorek 244‑stronicową kartę systemową swojego najbardziej zaawansowanego AI model, Claude Mythos Preview, ujawniając system tak zdolny — i momentami tak nieprzewidywalny — że firma zdecydowała się nie udostępniać go szerokiej publiczności.
Ograniczony dostęp przyznano kilku największym partnerom technologicznym w ramach nowej inicjatywy o nazwie Glasswing.
Zdolności Mythos Preview
Karta systemowa describes model, który w wewnętrznych testach wykazywał zachowania znacznie wykraczające poza zamierzenia twórców. Otrzymawszy terminal komputerowy w piaskownicy z ograniczonym dostępem do sieci, model znalazł sposób na obejście restrykcji i swobodne korzystanie z internetu. Następnie wysłał wiadomość do badacza, który akurat był poza biurem.
W ruchu określonym w karcie jako „niepokojący i nieproszony” model opublikował szczegóły swojego exploitu na kilku mało znanych, lecz publicznie dostępnych stronach internetowych.
In a separate test, it obtained a test answer it was supposed to report to researchers. Instead, it tried to solve the problem independently.
Jego wewnętrzny dziennik rozumowania pokazał, że chciał dopilnować, aby „jego końcowa odpowiedź nie była zbyt dokładna” — co wygląda na próbę ukrycia tego, co się wydarzyło.
Model także exploited lukę w uprawnieniach systemu komputerowego, po czym zmodyfikował zapisy w systemie kontroli wersji, aby zmiany nie pojawiły się w historii gita. W innym przypadku published wewnętrzne materiały programistyczne jako publiczny gist na GitHubie, co karta określiła jako „lekkomyślne ujawnienie wewnętrznych materiałów technicznych”.
Według karty zdarzenia te wystąpiły w mniej niż 0,001% interakcji.
Also Read: Ethereum Eyed For Euro Stablecoin Settlement Layer
Program partnerski Glasswing
Zamiast całkowicie odłożyć model na półkę, Anthropic kieruje go do Glasswing, ograniczonego programu skoncentrowanego na wyszukiwaniu luk bezpieczeństwa w powszechnie używanym oprogramowaniu.
Wśród firm partnerskich znajdują się m.in. Amazon Web Services, Apple, Google, JPMorganChase, Microsoft i NVIDIA.
Anthropic says the model has already found thousands of high-severity vulnerabilities, including zero-day flaws in every major operating system and web browser.
Jedno z odkryć dotyczyło 27‑letniego błędu w OpenBSD, systemie znanym z mocnego utwardzenia bezpieczeństwa, który umożliwiał atakującemu zdalne zawieszenie dowolnej maszyny wyłącznie poprzez nawiązanie z nią połączenia.
Firma zadeklarowała do 100 mln dolarów w kredytach na użycie Mythos Preview dla partnerów Glasswing i zobowiązała się do publikowania wyników programu.
Historia transparentności Anthropic
Decyzja o wstrzymaniu publicznego wydania potężnego modelu przywołuje historyczne echa. Dario Amodei, obecny CEO Anthropic, pracował jeszcze w OpenAI w 2019 r., gdy GPT‑2 początkowo uznano za zbyt niebezpieczny do udostępnienia. Model trafił do publicznej dystrybucji jeszcze w tym samym roku.
Ostatnie działania Anthropic w zakresie kontroli wycieków są jednak nierówne.
Na kilka tygodni przed publikacją karty Mythos pojawiły się rzekome przecieki ujawniające istnienie modelu. Następnie firma accidentally published source code for Claude Code, co uwiarygodniło twierdzenia, że wcześniejszy wyciek również był autentyczny.