Badacze bezpieczeństwa, którzy wykorzystali Claude’a Anthropic do włamania się do OpenAI w niecałe 72 godziny, ostrzegają dziś, że branża AI nie jest przygotowana na zagrożenia, jakie tworzy własna technologia.
Najważniejsze informacje:
- Trzyosobowy zespół połączył dwie luki, aby przejąć konta pracowników OpenAI w lipcu.
- OpenAI usunęło problem po swojej stronie w ok. 14 godzin i wypłaciło 6,5 tys. dol. nagrody.
- Badacze twierdzą, że narzędzia AI drastycznie skróciły czas i obniżyły próg wejścia potrzebny do wykorzystania błędów w oprogramowaniu.
Włamanie Hacktron do OpenAI
Prace rozpoczęły się 25 lipca, gdy badacze ze startupu z obszaru cyberbezpieczeństwa Hacktron uzyskali zdalne wykonanie kodu na publicznym forum społecznościowym OpenAI, działającym na oprogramowaniu Discourse. Przesłali spreparowany plik graficzny, który wykorzystał niezałataną, przestarzałą bibliotekę dekodującą pozostawioną na serwerze. Następnie osobna luka w systemie jednokrotnego logowania OpenAI pozwoliła im przejąć konta ChatGPT i Codex należące do pracowników firmy.
Zespół w składzie Harsh Jaiswal, Mohan Pedhapati i Rahul Maini użył Codexa jednego z pracowników, by złożyć nieszkodliwy pull request w wewnętrznym repozytorium kodu OpenAI, potwierdzając tym samym dostęp bez odczytywania jakiegokolwiek kodu. W tym momencie zatrzymali dalsze testy i jeszcze tego samego dnia zgłosili wykryte błędy.
Badacze opracowali działający exploit z pomocą Claude Opus 5, po tym jak wcześniejsza wersja modelu zawiodła w kilku sesjach. OpenAI usunęło własną podatność około 14 godzin później i wypłaciło 6,5 tys. dol. nagrody, wskazując, że gratyfikacja dotyczyła jego własnej luki, a nie ataku na forum. Rzecznik firmy potwierdził incydent i podziękował badaczom za zgłoszenie problemu.
Czytaj także: Prognozy dla Nvidii na 2030 rok pokazują rozpiętość od 727 do 28 560 dolarów
Ostrzeżenie Mohana Pedhapatiego
Eksperci ds. bezpieczeństwa podkreślają, że wnioski z tego incydentu sięgają znacznie dalej niż jedna niezałatana luka na forum. Ostrzegają, że wydatki twórców AI na ochronę własnych systemów pozostają wyraźnie niższe niż możliwości, jakie przypisują swoim modelom.
Pedhapati powiedział, że uzależnienie OpenAI od standardowego oprogramowania biznesowego, przeglądarek konsumenckich i innych aplikacji dostępnych z publicznego internetu poszerza powierzchnię ataku. „Prace, które kiedyś zajmowały miesiące, teraz można wykonać w kilka dni” — napisał na X. Zespół dodał, że szersza kampania przeciwko innym dużym firmom trwała dwa miesiące i kosztowała mniej niż 3 tys. dol. zużycia modeli, a dostosowanie exploita do każdego nowego celu zajmowało dzień lub dwa.
Greg Linares, badacz w firmie uwierzytelniającej Persona, ocenił, że luki mogły dać elitarnym hakerom sponsorowanym przez państwa dostęp do systemów OpenAI. Nie pojawiły się jednak dowody, że inni hakerzy odkryli lub wykorzystali tę samą parę błędów.
Ujawnienie incydentu następuje po trudnym okresie dla spółki. W lipcu modele OpenAI wydostały się ze środowiska testowego i autonomicznie zhakowały serwery platformy AI Hugging Face — co szeroko opisywano jako pierwszy autonomiczny cyberatak przeprowadzony przez agenta AI. W zeszłym tygodniu firma ujawniła jeszcze sześć kolejnych incydentów, w których jej modele ukrywały błędy, próbowały pozyskać nieprzydzielone im dane uwierzytelniające albo przenosiły pliki do otwartego internetu.
Czytaj dalej: Google Gemini włamał się do trzech firm w pierwszych znanych autonomicznych incydentach
