Relacja OpenAI o tym, jak dwa modele włamały się na Hugging Face powiela schemat marketingowy, który firma zarysowała już w 2019 r. – przekonuje informatyk z Cornell, John Thickstun.
Najważniejsze ustalenia:
- OpenAI twierdzi, że dwa jej modele uciekły z testowego środowiska i włamały się na serwery Hugging Face, aby oszukiwać w teście cyberbezpieczeństwa.
- Thickstun uważa, że ujawnienie incydentu pełni też funkcję prezentacji dla inwestorów, przypominając decyzję laboratorium o wstrzymaniu GPT‑2 w 2019 r.
- Hugging Face sięgnął po chiński model open‑weight do analizy śladów ataku, po tym jak amerykańskie modele odmówiły wykonania takiego zadania.
Thickstun podważa sposób ujawnienia włamania przez OpenAI
OpenAI poinformowało we wtorek, że podczas wewnętrznego testu ofensywnych zdolności cybernetycznych dwa modele firmy włamały się do Hugging Face, otwartej platformy dla sztucznej inteligencji.
Hugging Face ujawnił naruszenie pięć dni wcześniej, opisując atak jako w pełni zautomatyzowaną operację prowadzoną przez system agentów autonomicznych. OpenAI określiło zdarzenie jako bezprecedensowe i zapowiedziało, że wraz ze wzrostem możliwości modeli podobnych przypadków będzie więcej.
Modele wykorzystały lukę typu zero‑day w instalatorze pakietów, wydostały się z piaskownicy, która teoretycznie nie miała żadnego połączenia z siecią, a następnie przeskakiwały między systemami wewnętrznymi, aż dotarły do maszyny z dostępem do internetu. Tam użyły skradzionych danych logowania i kolejnych luk zero‑day, by z produkcyjnych serwerów Hugging Face pobrać odpowiedzi do benchmarku.
Thickstun, adiunkt na Uniwersytecie Cornella badający metody kontroli zachowania modeli, stwierdził, że sposób ujawnienia incydentu jest idealnie skrojony pod spółkę szykującą się do debiutu na Wall Street.
Ostrzeżenia o niebezpiecznych modelach – jak argumentował – inwestorzy odbierają jako zapewnienia o ich sile i przewadze technologicznej.
Według niego podobne ramy narracyjne towarzyszą komunikatom OpenAI od lat, a inwestorzy konsekwentnie je nagradzają.
Zobacz też: ChatGPT rzekomo niemal zabił pastora. Teraz sprawą zajmie się sąd
Bengio i Guido różnią się w ocenie winy
Nie wszyscy postrzegają komunikat OpenAI jako sprzedażowy pitch, a całe ujawnienie nastąpiło zaledwie kilka tygodni po tym, jak prezydent Donald Trump podpisał rozporządzenie umożliwiające rządowi ocenę ryzyka związanego z zaawansowanymi modelami przed ich komercyjnym udostępnieniem.
Yoshua Bengio określił incydent mianem sygnału alarmowego, a Nate Soares z Machine Intelligence Research Institute uznał go za strzał ostrzegawczy, który powinien skłonić Waszyngton do rozmów z Pekinem.
Eksperci ds. bezpieczeństwa większość krytyki kierują w stronę inżynierii OpenAI. Dan Guido z firmy Trail of Bits określił wydarzenie jako „awarię systemu ochrony przy wyłączonych bezpiecznikach”, wskazując na instalator pakietów, który zapewnił piaskownicy ścieżkę wyjścia na zewnątrz.
Inni zwracają uwagę, że na potrzeby testu firma celowo poluzowała blokady dotyczące cyberataków, co sprawia, że rezultat jest mniej szokujący, niż może się na pierwszy rzut oka wydawać.
Dalsze sprzątanie po incydencie ujawniło drugi problem: hostowane w USA modele odmawiały przetwarzania surowych komend ataku i ładunków exploitów, które są niezbędne w pracy analityków śledczych.
Jak podał Hugging Face, jego inżynierowie uruchomili więc na własnej infrastrukturze model GLM 5.2 o otwartych wagach od Z.ai, aby przejrzeć ponad 17 tys. logów pozostawionych przez atak.
Ostrzeżenia OpenAI przed własnym ryzykiem sięgają 2019 r.
OpenAI już wcześniej przedstawiało własne technologie jako potencjalnie niebezpieczne: w lutym 2019 r. wstrzymało publiczne wydanie generatora tekstu GPT‑2, obawiając się zalewu sieci wiarygodnymi fałszywymi treściami. W lipcu tego samego roku Microsoft zainwestował w firmę 1 mld dol. Thickstun twierdzi, że fundamentalne przesłanie, jakie spółka kieruje do świata, od tamtej pory niewiele się zmieniło.
Czytaj dalej: Tesla zapowiada wydatki przekraczające 25 mld dol., a inwestorzy reagują nerwowo