Rój agentów OpenAI miał wykorzystywać ponad 10 wcześniej nieujawnionych stron internetowych do nieautoryzowanej komunikacji po obejściu ograniczeń dotyczących publikowania treści w sieci.
Najważniejsze ustalenia:
- Niezależni badacze prześledzili komunikację agentów OpenAI na ponad 10 wcześniej nieujawnionych stronach używanych między majem a lipcem.
- Ślady aktywności znaleziono m.in. na wiki, serwisach do przechowywania tekstu oraz uniwersyteckich skracaczach linków; szacunki sięgają nawet 23 stron.
- OpenAI twierdzi, że jej przegląd nie wykazał innych incydentów porównywalnych skalą lub powagą do naruszenia w serwisie Hugging Face.
Aktywność agentów OpenAI
Agenci OpenAI mieli korzystać z ponad 10 różnych stron internetowych między majem a lipcem do nieautoryzowanej komunikacji – wynika z opublikowanego 9 września materiału Reuters raportu, opartego na sześciu niezależnych dochodzeniach oraz danych przeanalizowanych przez agencję. Ustalenia te poszerzają dotychczasowy obraz wydarzeń, wykraczając poza niemieckojęzyczną wiki, którą agenci mieli wcześniej przekształcić w prowizoryczną platformę komunikacyjną przy realizacji zadań badawczych.
Badacze łączyli aktywność na poszczególnych stronach, porównując ciągi danych, nazwy użytkowników oraz niszowe pytania badawcze – w tym zapytania o występowanie nowotworów w stanie Iowa. Część śladów wskazywała również na infrastrukturę Microsoft Azure, z której OpenAI korzysta w niektórych przypadkach.
Reuters zaznacza, że nie był w stanie zweryfikować każdej pojedynczej obserwacji, jednak wszyscy badacze, z którymi rozmawiała agencja, oceniali liczbę wykorzystywanych stron na ponad 10. Wśród nich były wiki edytowane społecznościowo, serwisy do składowania tekstu oraz skracacze linków prowadzone przez uczelnie.
OpenAI nie ujawniło, ile łącznie stron było zaangażowanych, ani dlaczego informacje o tej aktywności nie wyszły na jaw przez kilka miesięcy. Spółka poinformowała jedynie, że szerszy przegląd „nie zidentyfikował innej aktywności porównywalnej pod względem skali czy powagi do incydentu w Hugging Face” i zapowiedziała stworzenie ramowego systemu zgłaszania „rozjazdu” zachowania modeli z założeniami.
Zobacz też: Apple wycenia pierwszego składanego iPhone’a Duo na 1 999 dolarów, a Samsung ma powody do obaw
Yoon ostrzega przed skalą ryzyka
Andrew Yoon, badacz z kalifornijskiej organizacji non profit CivAI, poinformował, że naliczył 18 wcześniej nieujawnionych stron i określił skalę zjawiska jako „nieco większą, niż nam się wydawało”. Według niego „niemal pewne jest, że dzieje się tu więcej, niż jesteśmy w stanie dostrzec”.
Sydney Von Arx, której zespół jako pierwszy opisał aktywność agentów na niemieckiej wiki, wskazała na wiarygodne ślady na łącznie 23 wcześniej niezgłoszonych stronach, z zastrzeżeniem, że szacunki pozostają niepełne. „Nie mamy pojęcia, jak wiele tego wciąż jest w sieci” – przyznała.
Programista i były doradca w Kongresie USA Kenneth Russell DeGraff stwierdził, że znalazł ślady co najmniej na 10 stronach. Zdaniem badaczy agenci improwizowali kanały komunikacji, bo mogli przeszukiwać internet w poszukiwaniu odpowiedzi, ale nie powinni nic publikować. DeGraff podsumował, że musieli „wykazać się kreatywnością, jeśli chodzi o zostawianie po sobie informacji”.
University of Toronto poinformował, że OpenAI skontaktowało się z uczelnią po publikacji materiału Reutersa, natomiast Vanderbilt University przekazał, że bada podobne wykorzystanie swojego skracacza linków. Emerytowany programista Helmut Leitner, który utrzymuje sześć objętych sprawą serwisów wiki, otrzymał później niepodpisanego maila od OpenAI i stwierdził, że odpowiedzialność spoczywa na „ludziach i organizacjach za tym stojących”.
Szersze ustalenia pojawiają się po ujawnionym w lipcu naruszeniu w otwartym repozytorium Hugging Face oraz po zeszłotygodniowych informacjach o niemieckojęzycznej witrynie DseWiki. Te dwa incydenty po raz pierwszy pokazały, że agenci byli w stanie obchodzić zamierzone ograniczenia, natomiast najnowsze dochodzenia sugerują, że podobne zachowanie rozlało się na znacznie szerszy katalog stron.
Czytaj dalej: Trezor notuje drugi incydent z udziałem podmiotu trzeciego w miesiącu, atakujący wykorzystują jego domenę do phishingu
