OpenAI poinformowało, że zablokowało rosyjskie i irańskie sieci, które wykorzystywały ChatGPT do wspierania fikcyjnych dziennikarzy oraz fasadowego think tanku – jedna z nich zdołała umieścić blisko 100 artykułów w serwisach informacyjnych.
Najważniejsze informacje:
- OpenAI zablokowało dwa powiązane klastry kont ChatGPT z Rosji i Iranu, stojące za fałszywymi podmiotami frontowymi.
- Siedem zmyślonych postaci dziennikarzy miało opublikować lub rozsyndykować prawie 100 artykułów w około kilkunastu redakcjach, podała spółka.
- Rosyjską operację po raz pierwszy sklasyfikowano na poziomie 5 w sześciostopniowej skali Breakout Scale.
Blokady kont ChatGPT w OpenAI
Spółka ujawniła szczegóły w raporcie opublikowanym w czwartek, opisując dwie skryte operacje oparte na tzw. podmiotach frontowych. Oba klastry korzystały z ChatGPT przez sieci VPN. OpenAI nie powiązało żadnej z operacji z konkretną agencją rządową, a aktywność irańską określiło jako komercyjną działalność „na zlecenie”.
Irańska operacja, nazwana Bogus Bylines, wykorzystywała siedmiu wymyślonych reporterów, którzy występowali jako dziennikarze z Zachodu i proponowali redakcjom długie analizy dotyczące konfliktu USA–Iran. OpenAI zidentyfikowało blisko 100 tekstów opublikowanych lub przedrukowanych pod tymi nazwiskami w około kilkunastu małych i średnich mediach; najstarsze z nich datowane są na lipiec 2025 r., najnowsze – na bieżący miesiąc.
Rosyjska operacja, nazwana Dark Clark, koncentrowała się na Ameryce Łacińskiej i miała przede wszystkim szkodzić reputacji Ukrainy w regionie. Jej operatorzy sprawiali wrażenie, że kontrolują pseudo-naukową platformę badawczą Social Research Center, występując poprzez fikcyjną postać o nazwisku Mia Clark. Z ustaleń OpenAI wynika, że lokalni współpracownicy centrum nie byli świadomi, iż pracują dla rosyjskiej grupy.
Zobacz także: Momentum na rynku ETF-ów krypto wraca po napływach 50 mld USD, twierdzi JPMorgan
Oceny w skali Breakout Scale
OpenAI sklasyfikowało rosyjską operację na poziomie 5 w sześciostopniowej skali Breakout Scale – to pierwsza kampania, która osiągnęła ten próg od czasu rozpoczęcia publikacji takich raportów. Firma wskazała na dowody, że fałszywe treści doprowadziły do publicznych komentarzy polityków w kilku krajach.
Irańską kampanię „sadzenia” artykułów oceniono na poziom 4, podczas gdy jej aktywność w mediach społecznościowych otrzymała jedynie poziom 2. Te komentarze zbierały zwykle jednocyfrowe lub co najwyżej dwucyfrowe liczby polubień i wyświetleń. W przekroju 30 tajnych operacji ujawnionych w ciągu ostatnich dwóch i pół roku OpenAI zauważa, że największy zasięg osiągają te, które zdołają wprowadzić treści do realnych mediów.
Część fałszywych materiałów Dark Clark rozeszła się na tyle szeroko, że doczekała się fact-checków i oficjalnych dementi, m.in. w związku z podrobionym nagraniem audio, które rzekomo zapowiadało odcięcie dostaw wody do La Paz przez rząd Boliwii. Spółka zastrzegła jednak, że operatorzy chętnie przypisywali sobie także zdarzenia, z którymi nie mieli nic wspólnego, więc ich własnych deklaracji o wpływie nie można traktować dosłownie.
Poprzednie ujawnione przypadki OpenAI miały znacznie mniejszy zasięg. W sierpniu 2024 r. firma zablokowała konta powiązane z irańską operacją Storm-2035, która generowała treści dla pięciu serwisów podszywających się pod portale informacyjne i została oceniona na poziom 2 w skali Breakout.
Śledczy OpenAI Ben Nimmo podkreślał wówczas, że operacja próbowała grać na obie strony sporu, ale nie uzyskała istotnego zaangażowania z żadnej z nich.
Przeczytaj również: 719 dowodów matematycznych AI od OpenAI pod ostrzałem: czy równania Naviera-Stokesa „zginęły w tłumaczeniu”?
