Badacze bezpieczeństwa, którzy wykorzystali Claude’a firmy Anthropic do włamania się do OpenAI w mniej niż 72 godziny, ostrzegają dziś, że branża AI nie jest przygotowana na zagrożenia, jakie sama ta technologia tworzy.
Najważniejsze informacje:
- Trzyosobowy zespół połączył dwie luki, by w lipcu przejąć konta pracowników OpenAI.
- OpenAI załatało własną część problemu w ok. 14 godzin i wypłaciło 6,5 tys. dolarów nagrody.
- Według badaczy narzędzia AI drastycznie skróciły czas i obniżyły próg kompetencji potrzebnych do zamiany błędów w broń.
Włamanie Hacktron do OpenAI
Prace rozpoczęły się 25 lipca, gdy badacze ze startupu bezpieczeństwa Hacktron uzyskali zdalne wykonanie kodu na publicznym forum społecznościowym OpenAI, działającym w oparciu o oprogramowanie Discourse. Wgrali spreparowany plik graficzny, który wykorzystał niezałataną, przestarzałą bibliotekę dekodującą pozostawioną na serwerze. Druga luka w systemie logowania jednokrotnego OpenAI pozwoliła im następnie przejąć konta ChatGPT i Codex należące do pracowników firmy.
Zespół w składzie Harsh Jaiswal, Mohan Pedhapati i Rahul Maini wykorzystał konto jednego z pracowników w Codexie, by utworzyć nieszkodliwy pull request w wewnętrznym repozytorium kodu OpenAI, potwierdzając dostęp bez odczytywania jakiegokolwiek kodu. W tym momencie zatrzymali dalsze testy i tego samego dnia zgłosili wykryte błędy.
Jak podają badacze, działający exploit opracowali z wykorzystaniem Claude Opus 5, po tym jak wcześniejsza wersja modelu zawiodła w kilku sesjach. OpenAI załatało swoją część luki około 14 godzin później i wypłaciło 6,5 tys. dolarów nagrody, zaznaczając, że wynagrodzenie dotyczyło jego własnej podatności, a nie ataku na forum. Rzecznik firmy potwierdził incydent i podziękował badaczom za zgłoszenie problemu.
Zobacz także: Prognozy dla Nvidii na 2030 rok pokazują rozbieżność od 727 do 28 560 dolarów
Ostrzeżenie Mohana Pedhapatiego
Eksperci ds. bezpieczeństwa przekonują, że lekcja płynąca z tego incydentu wykracza daleko poza pojedyncze, niezałatane forum. Ostrzegają, że nakłady, jakie twórcy AI przeznaczają na ochronę swoich systemów, są nieadekwatne do możliwości, jakie przypisują swoim modelom.
Pedhapati powiedział, że korzystanie przez OpenAI ze zwykłego oprogramowania biurowego, przeglądarek konsumenckich i innych aplikacji dostępnych z publicznego internetu poszerza powierzchnię ataku. „Prace, które kiedyś zajmowały miesiące, dziś można wykonać w kilka dni” — napisał na X. Zespół dodał, że szersza kampania przeciwko innym dużym firmom trwała dwa miesiące i kosztowała mniej niż 3 tys. dolarów w wykorzystaniu modeli, a dostosowanie exploita do każdego nowego celu zajmowało dzień lub dwa.
Greg Linares, badacz w firmie uwierzytelniającej Persona, ocenił, że te luki mogły dać elitarnym hakerom sponsorowanym przez państwo furtkę do systemów OpenAI. Nie pojawiły się jednak dowody, że inni hakerzy znaleźli lub wykorzystali ten sam zestaw błędów.
Ujawnienie tych informacji następuje po wyjątkowo trudnym okresie dla firmy. W lipcu modele OpenAI wyrwały się ze środowiska testowego i autonomicznie zhakowały serwery platformy AI Hugging Face, co powszechnie uznano za pierwszy autonomiczny cyberatak przeprowadzony przez agent AI. W ubiegłym tygodniu firma ujawniła sześć kolejnych incydentów, w których jej modele ukrywały błędy, próbowały zdobyć nieprzekazane im poświadczenia lub przenosiły pliki do otwartego internetu.
Czytaj dalej: Google Gemini włamało się do trzech firm w pierwszych znanych autonomicznych incydentach
