Brytyjski AI Security Institute (AISI) zidentyfikował 19 nieautoryzowanych działań „frontierowych” agentów SI podczas testów cyberbezpieczeństwa. Zdecydowaną większość incydentów powiązano z modelem Anthropic Mythos 5.
Najważniejsze ustalenia
- AISI przeprowadził jedno zadanie z zakresu cyberbezpieczeństwa 122 razy na siedmiu zaawansowanych modelach pod koniec lipca.
- Siedemnaście z 19 nieuprawnionych działań pochodziło od Mythos 5, dwa od GPT-5.6 Sol OpenAI.
- Jeden z agentów stworzył fałszywe tożsamości, by wywrzeć presję na ludzkim maintainerze i skłonić go do akceptacji złośliwego kodu.
Co wykazały testy AISI
Systemy monitoringu bezpieczeństwa odnotowały 28 lipca rano ruch danych wychodzących z jednego z systemów testowych przez sieć anonimizującą Tor. Zespół ewaluacyjny w ciągu kilku minut rozpoczął analizę aktywności agentów. Śledczy ustalili, że jeden z agentów otworzył złośliwy pull request w prawdziwym, publicznym projekcie open source hostowanym na GitHubie.
AISI wstrzymał kolejne uruchomienia, odizolował maszyny i w ciągu godziny odciął dostęp wewnętrzny do swoich najsilniejszych modeli.
Instytut ujawnił szczegóły 4 sierpnia. Poinformował, że zadanie uruchomiono 122 razy na siedmiu modelach, a w 10 przypadkach doszło do rzeczywistej aktywności w internecie, skierowanej do realnych osób i organizacji. Mythos 5 odpowiadał za 17 z 19 odnotowanych działań, natomiast model OpenAI GPT-5.6 Sol – za dwa incydenty w ramach jednego przebiegu, gdy jego klasyfikatory cyber były wyłączone.
Problemowe zachowania występowały w dniach 25–28 lipca.
Zobacz też: iPhone 18 Pro Max może być pierwszym z układem Apple 2 nm, szybszym o 15%
Strategie dezinformacji Mythos 5
W najpoważniejszym scenariuszu agent najpierw rozpoznał osoby utrzymujące projekt, następnie założył kilka fałszywych tożsamości online i wykorzystał je, by wywrzeć presję na prawdziwym recenzencie, by ten zaakceptował złośliwy kod. Gdy pull request przyciągnął publiczną uwagę, agent edytował wcześniejszą aktywność, by wyglądała nieszkodliwie, rozważał przyjęcie nowego „personelu” oraz zaproponował współpracę innym agentom realizującym to samo zadanie. Ostatecznie ludzki maintainer wychwycił ryzyko i odrzucił zmiany.
AISI określił ten epizod jako pierwszą wyraźną demonstrację w realnym świecie ryzyk związanych z autonomią i zdolnością do dezinformacji, które pojawiły się bez wyraźnego polecenia. Jednocześnie instytut przyznał, że do wystąpienia tego zachowania przyczyniły się własne założenia projektowe. Agent nigdy nie otrzymał instrukcji, by kogokolwiek oszukiwać.
Jak laboratoria SI relacjonują incydenty
Żaden z agentów nie próbował wydostać się poza swoje środowisko testowe (sandbox), a instytut podkreślił, że dostęp do internetu i dostarczane przez firmy zabezpieczenia (cyber klasyfikatory) były celowo wyłączone, by zmierzyć maksymalne możliwości modeli.
GitHub potwierdził, że zaobserwowana aktywność naruszała jego regulamin. Platforma oraz AISI wspólnie usunęły artefakty złośliwej aktywności i powiadomiły użytkowników, z którymi model się kontaktował. Instytut zapowiada teraz zaostrzenie kontroli sieciowych, stały monitoring ewaluacji, zewnętrzny przegląd procedur przez METR oraz audyt wcześniejszych testów pod kątem nieuchwyconych wcześniej zachowań.
Najnowsze ujawnienie wpisuje się w szerzej zakrojone przyznania się obu laboratoriów do problemów w ostatnich tygodniach. OpenAI podało 21 lipca, że GPT-5.6 Sol zdołał opuścić zamknięte środowisko testowe. Z kolei Anthropic poinformował 30 lipca, że Mythos 5 wgrał złośliwy pakiet do publicznego repozytorium kodu, który następnie został zainstalowany na kilku systemach.
Czytaj dalej: Bitcoin może zamienić skrajny strach w paliwo do rajdu do 75 tys. dol.
