Anthropic zapowiada, że zamierza udostępnić opinii publicznej model Mythos, its vulnerability-hunting AI, ale dopiero wtedy, gdy zbuduje zabezpieczenia, które obecnie jeszcze nie istnieją.
Kluczowe informacje:
- Anthropic planuje szeroko udostępnić modele klasy Mythos po wcześniejszym rozszerzeniu dostępu na rządy USA i państw sojuszniczych.
- Firma przyznaje, że żadna organizacja – w tym ona sama – nie stworzyła zabezpieczeń wystarczająco silnych, by powstrzymać nadużycia.
- Mythos zidentyfikował ponad 23 000 problemów w 1 000 projektów open source, w tym 6 202 luk o wysokiej lub krytycznej wadze.
Udostępnienie Anthropic Mythos
Anthropic potwierdził ten plan w aktualizacji Project Glasswing, swojego programu bezpieczeństwa z ograniczonym dostępem, a osobny raport zaznaczył, że harmonogram pozostaje niepewny.
Firma zapowiedziała, że najpierw będzie współpracować z rządami USA i państw sojuszniczych, aby rozszerzyć program. Szersze udostępnienie „modeli klasy Mythos” miałoby nastąpić w niedalekiej przyszłości.
Anthropic otwarcie mówi o ryzyku. Firma stwierdziła, że żadna firma, w tym ona sama, nie zbudowała zabezpieczeń wystarczająco silnych, aby powstrzymać model przed nadużyciami i spowodowaniem poważnych szkód.
Mimo to Anthropic spodziewa się szybkiego rozprzestrzenienia podobnych narzędzi, przewidując, że modele na poziomie Mythos staną się szeroko dostępne w ciągu sześciu do dwunastu miesięcy.
Mythos zadebiutował w kwietniu. Anthropic podał, że w testach generował działające exploity w 72,4 procent przypadków, podczas gdy wcześniejszy model Claude był pod tym względem niemal bezskuteczny.
Przeczytaj także: Cisco Research Shows Frontier AI Models Failing Under Multi-Turn Attacks
Odkrycia podatności przez Mythos
Od debiutu model przeskanował ponad 1 000 projektów open source i ujawnił 23 019 problemów, z czego 6 202 sklasyfikowano jako luki o wysokiej lub krytycznej wadze.
Jedno odkrycie szczególnie się wyróżnia. Mythos wykrył błąd w bibliotece kryptograficznej wolfSSL, używanej przez miliardy urządzeń, który mógł pozwolić atakującym fałszować certyfikaty i podszywać się pod banki lub dostawców poczty e-mail. Luka została już załatana.
Lawina zgłoszeń obciążyła osoby odpowiedzialne za ich naprawę. Utrzymujący projekty open source poprosili Anthropic o spowolnienie ujawnień, argumentując, że ich wolumen przewyższa ich możliwości przerobu.
Badacze dostrzegają głębszą nierównowagę. Anthropic twierdzi, że znajdowanie błędów jest dziś znacznie łatwiejsze niż ich naprawianie, i firma nawiązała współpracę z projektem Alpha-Omega Open Source Security Foundation, aby pomóc opiekunom w triage’u zaległości.
Karta systemowa Claude Mythos przewiduje, że w dłuższej perspektywie AI zacznie sprzyjać obrońcom, choć Anthropic przyznaje, że obecnie przewaga może być po stronie atakujących.
Gdy Mythos was first revealed, Anthropic udostępnił model ponad 50 organizacjom, w tym Apple, Microsoftowi i Google, wraz z kredytami na wykorzystanie o wartości ok. 100 mln dolarów, wstrzymując się z udostępnieniem publicznym ze względu na potencjał do wykorzystania luk w oprogramowaniu w celach ofensywnych.
Następny artykuł: Cardano Whales Seize 67.5% Of ADA Supply, A Six-Year High