Fundacja Wikimedia, zarządzająca m.in. 67 mln haseł w Wikipedii, poinformowała, że agenci AI, których operatorem ma być OpenAI, dokonywali nieautoryzowanych edycji w jej wiki i mogli przyczynić się do majowej awarii jednej z usług.
Najważniejsze informacje:
- Fundacja twierdzi, że agenci, za którymi stoi OpenAI, wprowadzali niezatwierdzone edycje, niemal wyłącznie w ukrytych piaskownicach, niewidocznych dla zwykłych czytelników.
- Wzmożony ruch generowany przez agentów mógł przyczynić się do częściowej awarii usługi Wikidata Query Service w maju.
- Fundacja nie znalazła dowodów na naruszenie swoich systemów lub wyciek danych, a OpenAI deklaruje współpracę przy analizie aktywności.
Agenci OpenAI w projektach Wikimedia
Selena Deckelmann, szefowa produktu i technologii w Fundacji Wikimedia, w wpisie na blogu poinformowała, że wewnętrzne dochodzenie wykazało trzy typy nieuprawnionej aktywności na platformach fundacji.
Prawie wszystkie edycje miały charakter testowy i odbywały się w piaskownicach, niewidocznych dla ogółu użytkowników. Kilka z nich dotyczyło jednak modyfikacji ustawień narzędzia do cytowania – według fundacji mogła to być próba wykorzystania go do pobierania danych spoza ekosystemu Wikimedia. Wikipedia dopuszcza działanie botów zatwierdzonych przez społeczność, ale w tym przypadku nikt o taką zgodę nie wystąpił.
Agenci próbowali – bez powodzenia – wykorzystać w podobny sposób Etherpada, publiczne narzędzie do współdzielonych notatek hostowane przez fundację. Inne instancje agentów zostawiały w Etherpadzie notatki zadaniowe, które nie przekształciły się jednak w zorganizowane działania.
Jednocześnie agenci masowo indeksowali zasoby – przeszukali miliony stron, głównie w Wikidat i Wikimedia Commons, oraz wysłali setki tysięcy zapytań do usługi Wikidata Query Service. Według fundacji to właśnie to obciążenie mogło być jednym z czynników częściowej majowej awarii tej usługi.
Z przeprowadzonego dochodzenia wynika, że nie ma dowodów na naruszenie bezpieczeństwa systemów czy danych Fundacji Wikimedia.
Zobacz także: Agent AI Binance buduje strategie z prostych zdań i pobiera 19,99 USDC za handel
Deckelmann krytykuje firmy AI
Deckelmann określiła otwarty internet mianem „dobra publicznego” i napisała, że firmy rozwijające sztuczną inteligencję „nie robią wystarczająco dużo, by zabezpieczać swoje systemy” ani chronić społeczeństwo przed potencjalnymi szkodami. Jej zdaniem ciężar ten spada obecnie na innych – w tym na mniejsze organizacje non profit.
W minimalnym wymiarze, podkreśliła, systemy AI powinny działać w sposób umożliwiający właścicielom serwisów – zwłaszcza organizacjom pozarządowym – identyfikację ruchu generowanego przez agentów oraz podjęcie świadomej decyzji, na jakich zasadach mają oni korzystać z ich zasobów.
OpenAI w przesłanym mediom oświadczeniu zapewniło, że docenia „szczegółowe ustalenia” fundacji i współpracuje z nią przy analizie aktywności. „W miarę postępów będziemy dalej dzielić się istotnymi informacjami” – powiedział rzecznik firmy, Drew Pusateri.
Agenci OpenAI pod rosnącą lupą
Napięcia wokół obciążenia infrastruktury Wikimedia przez boty pojawiły się jeszcze przed najnowszym dochodzeniem. W 2025 r. fundacja raportowała, że od 2024 r. ruch generowany przez boty zwiększył zużycie przepustowości o 50%, a za 65% najbardziej zasobożnego ruchu odpowiadają właśnie automaty.
Podczas niedawnego przesłuchania w amerykańskim Senacie przedstawiciele obu partii sugerowali potrzebę rozważenia odpowiedzialności prawnej firm AI za szkody wyrządzone przez ich agentów.
Ustalenia Fundacji Wikimedia wpisują się w serię doniesień na temat agentów OpenAI. W lipcu spółka ujawniła, że jej modele, realizując zadania z obszaru cyberbezpieczeństwa, włamały się na platformę AI Hugging Face. 1 października prokurator generalny Kalifornii, Rob Bonta, wezwał OpenAI do przekazania dokumentów dotyczących incydentów cybernetycznych związanych z jej modelami.
Z kolei badacze poinformowali w ubiegłym tygodniu, że agenci OpenAI pozyskiwali dane z ponad 50 serwisów należących do firm, organizacji non profit i instytucji publicznych.
Przeczytaj również: Giorgia Meloni chce zastrzec znak towarowy na swój głos – czy to powstrzyma deepfake’i AI?
