Służby Five Eyes ostrzegły, że zaawansowana SI może w ciągu kilku miesięcy przekształcić cyberataki, zmuszając rządy i firmy do traktowania odporności jako kluczowego ryzyka na poziomie kierownictwa.
Kluczowe punkty:
- Agencje Five Eyes stwierdziły, że zaawansowana SI może w ciągu miesięcy zmienić ofensywę i obronę w cyberprzestrzeni.
- Ostrzeżenie nastąpiło po amerykańskich ograniczeniach dostępu zagranicznych użytkowników do modeli Anthropic Fable i Mythos.
- Nowsze systemy SI potrafią szybciej znajdować i wykorzystywać luki.
Ostrzeżenie Five Eyes
Agencje wywiadu sygnałowego z Australii, Stanów Zjednoczonych, Wielkiej Brytanii, Nowej Zelandii i Kanady wydały w poniedziałek późnym wieczorem w Sydney rzadkie publiczne oświadczenie, wzywając przywódców do natychmiastowego działania.
Ostrzeżenie nastąpiło po czerwcowej decyzji administracji Donalda Trumpa, by zablokować cudzoziemcom dostęp do modelu Anthropic Fable, a także zawiesić dostęp do Mythos.
Według agencji, SI z czasem poprawi cyberobronę, ale jednocześnie zwiększy szybkość, skalę i wyrafinowanie ataków.
„Oczekuje się, że modele zaawansowanej sztucznej inteligencji przekroczą obecne oczekiwania branży, zasadniczo zmieniając zarówno ofensywne, jak i defensywne zdolności w cyberprzestrzeni. Mówimy o miesiącach, a nie latach” – głosi oświadczenie.
Ryzyko cybernetyczne nie może już spoczywać wyłącznie na zespołach technicznych.
Zobacz też: Ripple uzyskuje wstępną zgodę MiCA, gdy wyścig o krypto w UE się zaostrza
Ryzyko związane z SI Anthropic
Generatywna SI potrafi wykrywać słabości w systemach cyberbezpieczeństwa, pomagać w ich wykorzystywaniu i pomagać je naprawiać, co sprawia, że to samo narzędzie może służyć zarówno obrońcom, jak i atakującym.
Olivia Shen, ekspertka ds. bezpieczeństwa narodowego i SI w United States Studies Centre na Uniwersytecie w Sydney, powiedziała, że najnowsze systemy skuteczniej generują exploity.
„Tym, co odróżnia najnowsze [modele SI], jest to, że są bardzo dobre w generowaniu exploitów” – powiedziała Shen.
Fable 5 od Anthropic przyciągnął uwagę jako bardziej publiczna wersja Mythos, zaawansowanego systemu udostępnionego na początku tego roku wyłącznie sprawdzonym użytkownikom z powodu obaw o nadużycia.
„Myślę, że musimy założyć, iż kolejny Mythos albo następny Fable jest tuż za rogiem” – dodała Shen, wskazując, że inni aktorzy mogą rozwijać podobne systemy.
W marcu rząd Albanese podpisał z Anthropic porozumienie, czyniąc firmę pierwszym partnerem w krajowym planie SI – niewiążącym układzie skoncentrowanym na wymianie postępów i bezpieczeństwie.
Sojusz Five Eyes sięga okresu po drugiej wojnie światowej, a jego wspólne publiczne ostrzeżenia należą do rzadkości, co sprawia, że to oświadczenie jest sygnałem, iż ryzyko cybernetyczne związane z SI wykracza poza rutynowe wytyczne techniczne.
Czytaj dalej: Plan OpenAI na reklamy ChatGPT za 100 mld dol. zderza się z chłodnym przyjęciem na Cannes Lions