OpenAI poinformowało, że zablokowało rosyjskie i irańskie sieci, które wykorzystywały ChatGPT do wspierania fałszywych dziennikarzy oraz fasadowego think tanku. Jednej z nich udało się umieścić w mediach blisko 100 artykułów.
Najważniejsze informacje:
- OpenAI zablokowało dwa klastry kont ChatGPT z Rosji i Iranu, stojące za fałszywymi organizacjami frontowymi.
- Siedem zmyślonych dziennikarskich tożsamości miało na koncie niemal 100 publikacji w około kilkunastu tytułach, podała spółka.
- Rosyjska kampania jako pierwsza otrzymała od OpenAI kategorię 5 w sześciostopniowej Breakout Scale.
Blokady ChatGPT od OpenAI
Spółka ujawniła szczegóły w raporcie opublikowanym w czwartek, opisując dwie tajne operacje oparte na tzw. fałszywych frontach. Oba klastry kont korzystały z ChatGPT przez VPN-y. OpenAI nie powiązało żadnej z kampanii wprost z konkretną agencją rządową i wskazało, że aktywność z Iranu przypominała komercyjną operację „na zlecenie”.
Irański projekt, nazwany Bogus Bylines, prowadził siedem wymyślonych reporterów, którzy podawali się za zachodnich dziennikarzy i oferowali redakcjom długie analizy dotyczące konfliktu USA–Iran. OpenAI zidentyfikowało blisko 100 artykułów opublikowanych lub przedrukowanych pod tymi nazwiskami w około kilkunastu małych i średnich mediach. Najstarsze teksty pochodzą z lipca 2025 r., najnowsze – z tego miesiąca.
Rosyjska operacja, określona jako Dark Clark, była wymierzona w Amerykę Łacińską i koncentrowała się na podkopywaniu reputacji Ukrainy w regionie. Operatorzy mieli kontrolować samozwańczą „platformę badawczą” Social Research Center, firmowaną przez fikcyjną postać o imieniu Mia Clark. Według OpenAI dostępne dowody sugerują, że lokalny personel centrum nie zdawał sobie sprawy, iż pracuje dla rosyjskiej grupy.
Zobacz także: Impuls dla ETF-ów kryptowalutowych wraca po napływach 50 mld USD, twierdzi JPMorgan
Oceny w Breakout Scale
OpenAI oceniło rosyjską operację na kategorię 5 w sześciostopniowej Breakout Scale. To pierwsza kampania, która osiągnęła tak wysoki poziom od czasu, gdy spółka zaczęła publikować tego typu raporty. OpenAI wskazało na dowody, że spreparowane treści doprowadziły do publicznych komentarzy polityków w kilku krajach.
Irański program sadzenia artykułów w mediach oceniono na kategorię 4, natomiast jego aktywność w mediach społecznościowych otrzymała kategorię 2. Tamtejsze wpisy zbierały jedynie jednocyfrowe lub niskie dwucyfrowe liczby polubień i wyświetleń. OpenAI podkreśliło, że spośród 30 tajnych operacji ujawnionych w ciągu ostatnich dwóch i pół roku, największy zasięg zwykle uzyskują te, którym udaje się umieszczać treści w realnych mediach.
Część fałszywych materiałów Dark Clark rozeszła się na tyle szeroko, że doczekała się fact-checków oraz oficjalnych dementi, m.in. w sprawie sfabrykowanego nagrania audio, zgodnie z którym rząd Boliwii miał odciąć La Paz od dostaw wody. Spółka zastrzegła, że operatorzy kampanii przypisywali sobie również wydarzenia, z którymi nie mieli nic wspólnego, dlatego ich własnych deklaracji dotyczących skali wpływu nie należy traktować dosłownie.
Wcześniejsze przypadki ujawnione przez OpenAI miały znacznie mniejszy zasięg. W sierpniu 2024 r. spółka zablokowała konta powiązane z irańską operacją Storm-2035, która generowała treści dla pięciu stron podszywających się pod serwisy informacyjne. Tamten projekt otrzymał ocenę 2 w Breakout Scale.
Śledczy OpenAI Ben Nimmo mówił wówczas, że operacja próbowała grać na dwie strony konfliktu, ale nie udało jej się zdobyć realnego zaangażowania żadnej z nich.
Czytaj dalej: 719 dowodów matematycznych AI OpenAI pod ostrzałem: czy równania Naviera-Stokesa zgubiły się w tłumaczeniu?
