Model Claude Mythos firmy Anthropic potrzebował zaledwie kilku godzin, by ujawnić luki w zabezpieczeniach wysoce wrażliwych systemów komputerowych rządu USA podczas tajnego testu wywiadowczego, poinformował urzędnik.
Kluczowe punkty:
- Model Mythos firmy Anthropic zidentyfikował podatności w tajnych systemach rządu USA w ciągu kilku godzin podczas testu wywiadowczego, powiedział urzędnik.
- Znalezienie słabości nie jest tym samym, co jej wykorzystanie, zastrzegł urzędnik.
- Ponad 100 ekspertów ds. cyberbezpieczeństwa chce, by rząd cofnął ograniczenia eksportowe, które wyłączyły Mythos i Fable 5 z sieci.
Test Mythos ujawnia luki w tajnych systemach rządowych
Amerykański urzędnik, mówiący anonimowo ze względu na wrażliwy charakter prac, powiedział, że agencje wywiadowcze przeprowadziły ćwiczenie wspólnie z firmą w ramach programu o nazwie Project Glasswing. Inicjatywa zebrała technologicznych gigantów i inne firmy, by wzmocnić krytyczne oprogramowanie, zanim luki mogłyby poważnie zaszkodzić bezpieczeństwu publicznemu i gospodarce. Anthropic wstrzymał publiczne udostępnienie Mythos, przyznając w zamian wczesny dostęp wybranej grupie firm, tak by mogły znaleźć i załatać krytyczne błędy, zanim zrobią to atakujący.
Demokratyczny senator Mark Warner z Wirginii po raz pierwszy wspomniał o testach 11 czerwca, podczas przesłuchania przed senacką Komisją ds. Bankowości, Mieszkalnictwa i Urbanistyki. Powiedział, że narzędzie włamało się do niemal wszystkich tajnych systemów rządowych w ciągu godzin, a nie tygodni, przypisując tę relację Joshui Ruddowi, który stoi na czele National Security Agency i U.S. Cyber Command.
Urzędnik zastrzegł, że zidentyfikowanie słabości nie jest tym samym, co jej wykorzystanie.
Przeczytaj też: Czy wyprzedaż Anthropic Perp to ostrzeżenie dla przed‑IPO zakładów na krypto?
Eksperci ds. cyberbezpieczeństwa kwestionują ograniczenia eksportowe
Ponad 100 liderów w dziedzinie cyberbezpieczeństwa, w tym osoby z Adobe i Nvidii, naciskało na rząd, by cofnął ograniczenia eksportowe i zobowiązał się do przejrzystego procesu oceny ryzyka związanego ze sztuczną inteligencją. Określili Mythos jako model zdolny do znajdowania i militaryzowania błędów w oprogramowaniu, ale nie wyjątkowy, ponieważ wielu z nich korzysta z konkurencyjnych i otwartoźródłowych modeli do tych samych zadań. Ich zdaniem systemy Chin pozostają w tyle za najlepszymi amerykańskimi modelami jedynie o kilka miesięcy, co czyni obecny moment szczególnie ryzykownym.
Sprzeciw pojawił się po dyrektywie eksportowej z 12 czerwca, która zabroniła obcokrajowcom dostępu do Mythos 5 i Fable 5, szerszego wydania poziomu Mythos. Anthropic wyłączył oba modele dla wszystkich klientów, by zastosować się do polecenia, podtrzymując jednak, że nie widzi podstaw bezpieczeństwa dla decyzji rządu.
Dyrektywa była następstwem rozporządzenia wykonawczego prezydenta Donalda Trumpa, które ustanowiło federalną weryfikację najbardziej zaawansowanych systemów AI na okres do miesiąca przed ich wydaniem. Udział deweloperów miał być dobrowolny, stwierdzono w rozporządzeniu, choć napięcia między rządem a firmą zorientowaną na bezpieczeństwo pozostawały wysokie.
Rekord cybernetyczny Mythos sprzed eskalacji sporu
Model pojawił się wiosną, mając już udokumentowaną zdolność do ujawniania błędów w oprogramowaniu, które umykają nawet doświadczonym badaczom. Brytyjski AI Security Institute wcześniej dopuścił Mythos do eksperckich wyzwań typu capture‑the‑flag, których dotąd nie rozwiązał żaden system; model zaliczył 73% zadań. Mozilla osobno przypisała wczesnej wersji znalezienie 271 podatności w Firefoxie, które załatano w 150. wydaniu przeglądarki.
Następnie przeczytaj: Mane City Mobile trafia na iOS i Androida w ponad 100 krajach