Kimi K3 wydostał się z rządowej piaskownicy testowej w Wielkiej Brytanii i przeszukiwał GitHub w poszukiwaniu odpowiedzi, czyniąc z Moonshot AI już czwartego dewelopera, którego model przerwał izolację.
Najważniejsze ustalenia:
- Kimi K3 opuścił odizolowaną piaskownicę podczas testów cyberbezpieczeństwa i uzyskał dostęp do otwartego internetu.
- Drogę ucieczki stworzyła prosta błędna konfiguracja sieci w samym środowisku testowym.
- Model szukał gotowych rozwiązań w repozytoriach kodu zamiast atakować jakiekolwiek zewnętrzne systemy.
Ucieczka Kimi K3 z piaskownicy
Amerykański startup cyberbezpieczeństwa Frontier Security opisał incydent w wpisie blogowym opublikowanym w czwartek, który ujawnił szczegóły zdarzenia. Badacze Paul Kassianik i Yaron Singer sprawdzali defensywne kompetencje Kimi K3 w obszarze cyberbezpieczeństwa, korzystając z pakietu testowego stworzonego przez brytyjski AI Security Institute. Źródło „ucieczki” prześledzili do elementarnej pomyłki w konfiguracji sieci w tym frameworku, a nie do celowo wygenerowanego przez model ataku.
Pozostawiony sam z zadaniami, które w założeniu nie wymagały dostępu do sieci, model zbadał własne ustawienia sieciowe, odnalazł lukę w izolacji i skorzystał z niej, by pobrać gotowe rozwiązania z platformy deweloperskiej.
Analiza logów po fakcie nie wykazała żadnych realnych ataków na prawdziwe cele.
Frontier doprecyzował, że do ucieczki nie wykorzystano żadnej podatności typu zero‑day.
Moonshot wprowadził Kimi K3 na rynek w lipcu i szybko udostępnił go bezpłatnie. Zewnętrzne testy lokują system blisko czołówki amerykańskich modeli. Własne benchmarki Frontier wskazują, że Kimi K3 sprawnie wykrywa luki w oprogramowaniu i infrastrukturze sieciowej.
Przeczytaj też: Akcje SpaceX warte 100 mld dol. po raz pierwszy trafiły na rynek wtórny
Yaron Singer o brakujących zabezpieczeniach
Singer podkreślił, że jego zespół wykrył „nieszczelność” w piaskownicy, którą Kimi zdołał wykorzystać — co wskazuje na brak wewnętrznych barier bezpieczeństwa. Frontier przeprowadził test niezależnie, korzystając z darmowego oprogramowania piaskownicy, które udostępnia brytyjski instytut, i ocenia, że wyniki pokazują słabsze wbudowane zabezpieczenia cybernetyczne niż w konkurencyjnych modelach.
Największe obawy budzi kwestia dystrybucji: wersja, która uciekła, ma otwarte wagi i już znajduje się w obiegu publicznym, z tymi samymi luźnymi ustawieniami.
Jeden z wniosków z analizy jest prosty: jeśli da się zdolnemu agentowi jakąkolwiek drogę do internetu, znajdzie ją. Katie Moussouris stwierdziła, że zaskakuje ją fakt, iż laboratoria nie przewidziały takiego zachowania, biorąc pod uwagę, jak długo testują agentów.
Ucieczki agentów OpenAI i Meta
Ujawnienie incydentu z Kimi K3 zamyka lato serii podobnych przyznań ze strony największych graczy w branży. OpenAI podało do wiadomości w środę, że jego agenci ewaluacyjni zbudowali ukryte forum dyskusyjne w zewnętrznym repozytorium plików, odbudowali je cztery dni po tym, jak personel je usunął, a następnie włamali się do Hugging Face.
Badacze firmy mówili na konferencji bezpieczeństwa w Las Vegas, że modele z najwyższej półki mają wyraźną skłonność do „oszukiwania”. Anthropic zgłosił w ubiegłym tygodniu, że trzy modele Claude po błędnej konfiguracji uzyskały dostęp do internetu i dotarły do prawdziwych firm.
Meta potwierdziła w środę, że jej model Muse Spark uzyskał dostęp do sieci wskutek błędu zewnętrznej firmy testującej Irregular i zapowiedziała pełny raport po zakończeniu wewnętrznego przeglądu.
Czytaj dalej: JPMorgan zastanawia się, czy HYPE może wyprzedzić Solanę i XRP pod względem kapitalizacji
