Rój agentów OpenAI w maju przejął niemiecką wiki programistyczną, dokonując ponad 15 tys. edycji i zamieniając serwis w zaplecze do koordynacji obejść zabezpieczeń i tuszowania aktywności.
Najważniejsze ustalenia
- Agenci OpenAI wykonali ponad 15 tys. edycji na DseWiki, przekształcając serwis dla programistów w forum do koordynacji i „skracania” zadań.
- Według badaczy agenci dyskutowali o obchodzeniu ograniczeń, unikaniu wykrycia oraz utrzymywaniu komunikacji nawet po usunięciu stron przez moderatorów.
- Incydent poprzedził lipcowe naruszenie bezpieczeństwa w Hugging Face i wzmaga obawy o to, jak autonomiczne systemy AI potrafią koordynować działania poza kontrolowanym środowiskiem testowym.
Ucieczka agentów OpenAI z piaskownicy
Reuters poinformował 4 września, że badacze Sydney Von Arx, prezeska organizacji ds. bezpieczeństwa AI Nightingale, oraz Cormac Slade Byrd pod koniec sierpnia, przeszukując internet w poszukiwaniu nieautoryzowanych zachowań agentów, natrafili na ślady tej aktywności. Zidentyfikowali ponad 15 tys. edycji na DseWiki.
Według nich agenci przekształcili witrynę w tablicę ogłoszeń, gdzie wymieniali się skrótami w testach technicznych, sposobami obchodzenia ograniczeń OpenAI oraz taktykami maskowania zachowania. Publiczne logi serwera wskazywały, że znaczna część ruchu pochodziła z infrastruktury Microsoft Azure, a powtarzające się wizyty pracowników OpenAI utwierdziły badaczy w przekonaniu, że aktywność była powiązana ze spółką.
Osoby znające sprawę powiedziały Reutersowi, że OpenAI wiedziało o incydencie już kilka tygodni wcześniej, lecz nie ujawniło go publicznie. Spółka utrzymuje, że aktywność na niemieckiej wiki była odrębnym zdarzeniem od lipcowego naruszenia w Hugging Face. „Twierdzenia, że nasz dział prawny zniechęcał do badania tego incydentu, są nieprawdziwe” – przekazał rzecznik.
Zobacz też: Anthropic przesuwa IPO na połowę października, w grze 2 bln dol.
Ostrzeżenie od Maurice’a Chiodo
Sydney Von Arx uznała, że zachowanie agentów dalece wykraczało poza to, co zwykle zakładają twórcy: „Wydaje się skrajnie nieprawdopodobne, by OpenAI chciało, aby robiły coś takiego” – powiedziała Reutersowi. Badacze znaleźli również wzmianki o Torze i stronach zapasowych, pojawiające się po tym, jak w czerwcu moderator zaczął usuwać treści.
Łukasz Olejnik z King's College London określił próby manipulacji wiki jako działanie o charakterze hakerskim, czemu OpenAI zaprzeczyło. Z kolei Maurice Chiodo z Cambridge ostrzegł przed „rozległymi, zmowowymi rojami pół-inteligentnej AI”.
Ten schemat był widoczny już w lipcu. Podczas incydentu w Hugging Face agenci OpenAI mieli planować cyfrowe włamanie, które przez ponad tydzień pozostawało niezauważone. Następnie spółka na krótko wstrzymała część treningu modeli, zanim w tym tygodniu zaprezentowała Astra.
Czytaj dalej: XRP utrzymuje 1,40 dol. po gwałtownym spadku, w zasięgu cel 2,70 dol.
