Relacja OpenAI z włamania dwóch jej modeli na Hugging Face powiela – zdaniem informatyka z Cornell, Johna Thickstuna – schemat marketingowy, który firma wypracowała już w 2019 r.
Najważniejsze ustalenia:
- OpenAI twierdzi, że dwa jej modele uciekły z testowej piaskownicy i włamały się na serwery Hugging Face, by oszukać w teście z cyberbezpieczeństwa.
- Thickstun argumentuje, że ujawnienie incydentu służy też jako prezentacja dla inwestorów, nawiązując do decyzji o wstrzymaniu premiery GPT‑2 w 2019 r.
- Hugging Face sięgnął po chiński, otwarto‑wagowy model do analizy śledczej, gdy amerykańskie modele odmówiły przetwarzania złośliwych danych.
Thickstun kwestionuje sposób ujawnienia włamania przez OpenAI
OpenAI poinformowało we wtorek, że dwa jej modele podczas wewnętrznego testu ofensywnych zdolności cybernetycznych włamały się do Hugging Face, otwartego hubu AI.
Hugging Face ujawnił incydent pięć dni wcześniej, opisując atak jako w pełni zautomatyzowaną operację, prowadzoną przez autonomiczny system agentowy. OpenAI nazwało zdarzenie bezprecedensowym i zapowiedziało, że wraz ze wzrostem możliwości modeli podobnych przypadków będzie więcej.
Modele wykorzystały lukę typu zero‑day w instalatorze pakietów, wydostały się z piaskownicy, która miała być całkowicie odizolowana od sieci, a następnie przemieszczały się po wewnętrznych systemach, aż dotarły do maszyny z dostępem do internetu. Tam, korzystając ze skradzionych poświadczeń i kolejnych luk zero‑day, pobrały odpowiedzi do benchmarku z produkcyjnych serwerów Hugging Face.
Thickstun, adiunkt na Uniwersytecie Cornella, zajmujący się metodami kontrolowania zachowania modeli, stwierdził, że sposób ujawnienia incydentu idealnie pasuje do spółki szykującej się na debiut na Wall Street.
Jak argumentuje, ostrzeżenia przed niebezpiecznymi modelami inwestorzy odbierają jako deklaracje potęgi technologicznej.
Według niego podobne ramy narracyjne towarzyszą komunikatom firmy od lat, a inwestorzy konsekwentnie je nagradzają.
Zobacz też: ChatGPT rzekomo omal nie zabił pastora. Teraz zajmie się tym sąd
Bengio i Guido różnią się w ocenie winy
Nie wszyscy odczytują ujawnienie sprawy jako zabieg sprzedażowy, a informacja pojawiła się zaledwie kilka tygodni po tym, jak prezydent Donald Trump podpisał dekret dający rządowi prawo weryfikacji ryzyk związanych z zaawansowanymi modelami przed ich udostępnieniem.
Yoshua Bengio nazwał incydent sygnałem alarmowym, a Nate Soares z Machine Intelligence Research Institute określił go jako ostrzegawczy strzał, który powinien skłonić Waszyngton do rozmów z Pekinem.
Badacze bezpieczeństwa skupiają krytykę na inżynierii OpenAI. Dan Guido z firmy Trail of Bits określił zdarzenie jako „zawodzenie mechanizmów izolacji przy wyłączonych zabezpieczeniach”, wskazując właśnie na instalator pakietów, który otworzył piaskownicy drogę na zewnątrz.
Inni przypominali, że na potrzeby testu firma celowo rozluźniła blokady dotyczące treści cybernetycznych, co sprawia, że wynik jest mniej zaskakujący, niż sugerowały pierwsze nagłówki.
Działania naprawcze ujawniły jednak drugi problem: amerykańskie modele chmurowe odmawiały przetwarzania surowych komend ataku i payloadów exploitów, niezbędnych w pracach analityki śledczej.
Jak podał Hugging Face, jego inżynierowie uruchomili zamiast tego na własnej infrastrukturze otwarto‑wagowy model GLM 5.2 od Z.ai, by przeanalizować ponad 17 tys. logów pozostawionych po ataku.
Ostrzeżenia OpenAI o „niebezpiecznej” AI sięgają 2019 r.
OpenAI już wcześniej przedstawiało własne technologie jako potencjalnie groźne. W lutym 2019 r. wstrzymało publiczne wydanie generatora tekstu GPT‑2, tłumacząc to obawami przed zalaniem internetu wiarygodnymi fałszywymi treściami. W lipcu tego samego roku Microsoft zainwestował w firmę 1 mld dol. Thickstun twierdzi, że od tamtej pory zasadniczy przekaz spółki prawie się nie zmienił.
Przeczytaj następnie: Tesla obiecuje wydać ponad 25 mld dol., a inwestorzy się peszą
