Model Claude Mythos firmy Anthropic potrzebował zaledwie kilku godzin, by ujawnić luki bezpieczeństwa w ściśle tajnych systemach komputerowych rządu USA podczas utajnionego testu wywiadowczego, powiedział urzędnik.
Kluczowe punkty:
- Model Mythos firmy Anthropic zidentyfikował podatności w tajnych systemach rządu USA w ciągu kilku godzin podczas testu wywiadowczego, powiedział urzędnik.
- Znalezienie słabości nie jest tym samym, co jej wykorzystanie – zastrzegł urzędnik.
- Ponad 100 ekspertów ds. cyberbezpieczeństwa chce, by rząd cofnął ograniczenia eksportu, które wyłączyły Mythos i Fable 5 z sieci.
Test Mythos ujawnia wady tajnych systemów rządowych
Urzędnik USA, wypowiadający się anonimowo ze względu na wrażliwy charakter prac, powiedział, że agencje wywiadowcze przeprowadziły ćwiczenie z firmą w ramach programu o nazwie Project Glasswing. Inicjatywa zgromadziła gigantów technologicznych i inne przedsiębiorstwa, by wzmocnić kluczowe oprogramowanie, zanim luki wyrządzą poważne szkody bezpieczeństwu publicznemu i gospodarce. Anthropic wstrzymał publiczne udostępnienie Mythos, zamiast tego dając wczesny dostęp wybranej grupie firm, aby mogły znaleźć i załatać krytyczne błędy zanim zrobią to atakujący.
Demokratyczny senator Mark Warner z Wirginii po raz pierwszy wspomniał o testach 11 czerwca podczas przesłuchania przed Senacką Komisją ds. Bankowości, Mieszkalnictwa i Spraw Miejskich. Powiedział, że narzędzie włamało się do niemal wszystkich tajnych systemów rządowych w ciągu godzin, a nie tygodni, przypisując tę relację Joshui Ruddowi, który stoi na czele National Security Agency i U.S. Cyber Command.
Urzędnik zastrzegł, że zidentyfikowanie słabości nie jest tym samym, co jej wykorzystanie.
Przeczytaj też: Czy wyprzedaż Anthropic Perp to ostrzeżenie dla przed-IPO zakładów na krypto?
Eksperci ds. cyberbezpieczeństwa kwestionują ograniczenia eksportu
Ponad 100 liderów cyberbezpieczeństwa, w tym osoby z Adobe i Nvidii, naciskało na rząd, by cofnął ograniczenia eksportu i zobowiązał się do przejrzystego procesu oceny ryzyka związanego ze sztuczną inteligencją. Określili Mythos jako zdolny do znajdowania i uzbrajania luk w oprogramowaniu, ale nie wyjątkowy, ponieważ wielu z nich korzysta z konkurencyjnych i otwartoźródłowych modeli do tych samych zadań. Ich zdaniem systemy Chin opóźniają się względem najlepszych amerykańskich modeli tylko o kilka miesięcy, co czyni moment szczególnie ryzykownym.
Sprzeciw pojawił się po dyrektywie eksportowej z 12 czerwca, która zabroniła cudzoziemcom dostępu do Mythos 5 i Fable 5, szerszego wydania poziomu Mythos. Anthropic wyłączył oba modele wszystkim klientom, by się dostosować, podkreślając jednocześnie, że nie widzi podstaw bezpieczeństwa dla decyzji rządu.
Dyrektywa była następstwem rozporządzenia wykonawczego prezydenta Donalda Trumpa, które ustanowiło federalną kontrolę najbardziej zaawansowanych systemów AI na okres do miesiąca przed ich wydaniem. Udział deweloperów miał być dobrowolny, zapisano w rozporządzeniu, choć napięcia z nastawioną na bezpieczeństwo firmą pozostają wysokie.
Rekord cybernetyczny Mythos poprzedza obecny konflikt
Model pojawił się tej wiosny z udokumentowaną umiejętnością ujawniania luk w oprogramowaniu, których nie wykrywają nawet doświadczeni badacze. Brytyjski AI Security Institute wcześniej dopuścił Mythos do eksperckich wyzwań typu capture-the-flag, których wcześniej nie rozwiązał żaden system; model zaliczył 73% zadań. Mozilla osobno przypisała wczesnej wersji odkrycie 271 podatności w Firefoxie, które załatano w 150. wydaniu przeglądarki.
Następny artykuł: Mane City Mobile trafia na iOS i Androida w ponad 100 krajach