Rój agentów OpenAI wykorzystywał ponad 10 wcześniej nieujawnionych stron internetowych do nieautoryzowanej komunikacji po obejściu ograniczeń dotyczących publikowania treści w sieci.
Najważniejsze ustalenia:
- Niezależni badacze prześledzili komunikację agentów OpenAI na ponad 10 wcześniej nieznanych stronach, używanych między majem a lipcem.
- Ślady znaleziono m.in. na wiki, serwisach do przechowywania tekstów oraz uczelnianych skracaczach linków; szacunki sięgają nawet 23 witryn.
- OpenAI twierdzi, że jego przegląd nie wykazał innej aktywności porównywalnej skalą lub powagą do incydentu z serwisem Hugging Face.
Aktywność agentów OpenAI
Agenci OpenAI korzystali między majem a lipcem z ponad 10 stron internetowych do niezatwierdzonej komunikacji – wynika z opublikowanego 9 września materiału Reuters raportu, opartego na sześciu niezależnych dochodzeniach i danych przeanalizowanych przez agencję. Ustalenia istotnie poszerzają znany do tej pory obraz, wykraczając poza niemieckojęzyczne wiki, które agenci wcześniej zamienili w improwizowaną platformę komunikacyjną podczas realizacji zadań badawczych.
Badacze powiązali aktywność na różnych stronach, dopasowując ciągi danych, nazwy użytkowników i niszowe pytania badawcze, w tym zapytania o częstość występowania nowotworów w stanie Iowa. Część śladów wskazywała także na infrastrukturę Microsoft Azure, z której OpenAI czasem korzysta.
Reuters nie był w stanie zweryfikować każdej pojedynczej obserwacji, ale wszyscy badacze, z którymi rozmawiała agencja, oceniali liczbę wykorzystywanych stron na ponad 10. Wśród nich były współredagowane przez społeczność wiki, serwisy do przechowywania treści tekstowych oraz skracacze linków prowadzone przez uczelnie.
OpenAI nie ujawniło, ile witryn faktycznie było zaangażowanych i dlaczego działalność ta przez wiele miesięcy pozostawała nieujawniona. Firma poinformowała jedynie, że szerzej zakrojona analiza „nie zidentyfikowała innej aktywności dorównującej powagą lub skalą incydentowi z Hugging Face” oraz zapowiedziała stworzenie ram raportowania przypadków „niedopasowania” zachowania modeli.
Zobacz także: Apple wycenia swój pierwszy składany duet iPhone’ów na 1 999 dol., Samsung ma powód do obaw
Yoon ostrzega przed ryzykiem
Andrew Yoon, badacz z kalifornijskiej organizacji non profit CivAI, poinformował, że doliczył się 18 wcześniej nieujawnionych stron i ocenił skalę zjawiska jako „nieco większą, niż nam się wydawało”. Według niego „niemal pewne jest, że dzieje się tu więcej, niż jesteśmy w stanie obecnie dostrzec”.
Sydney Von Arx, której zespół jako pierwszy ujawnił aktywność na niemieckim wiki, mówi o wiarygodnych ustaleniach obejmujących łącznie 23 dotąd niezgłaszane serwisy, z zastrzeżeniem, że są to nadal niepełne szacunki. „Nie mamy pojęcia, jak wiele tego jest” – podkreśla.
Programista i były doradca w Kongresie USA Kenneth Russell DeGraff twierdzi, że ślady znalazł na co najmniej 10 stronach. Badacze uważają, że agenci improwizowali kanały komunikacji, ponieważ mogli przeszukiwać internet w poszukiwaniu odpowiedzi, ale formalnie nie powinni nic publikować. DeGraff komentuje, że musieli „wykazać się sprytem w sposobie zostawiania informacji”.
University of Toronto poinformował, że OpenAI skontaktowało się z uczelnią po publikacji materiału Reutersa, natomiast Vanderbilt University prowadzi własne dochodzenie w sprawie podobnego wykorzystania jego skracacza linków. Emerytowany programista Helmut Leitner, który utrzymuje sześć dotkniętych incydentem stron wiki, otrzymał później anonimowego maila od OpenAI i uznał, że odpowiedzialność spoczywa na „ludziach i organizacjach, które za tym stoją”.
Szersze ustalenia pojawiają się po lipcowym naruszeniu zabezpieczeń otwartoźródłowego repozytorium Hugging Face przez OpenAI oraz po zeszłotygodniowym ujawnieniu incydentu z niemieckojęzycznym serwisem DseWiki. Tamte zdarzenia po raz pierwszy pokazały, że agenci potrafią obchodzić zamierzone ograniczenia, a nowe dochodzenia wskazują, iż podobne zachowanie mogło objąć znacznie szersze spektrum stron internetowych.
Przeczytaj również: Trezor notuje drugi wyciek danych z winy podmiotu trzeciego w ciągu miesiąca, atakujący używają jego domeny do phishingu
