OpenAI сообщила, что заблокировала связанные с Россией и Ираном сети, которые использовали ChatGPT для поддержки фейковых журналистов и подконтрольного аналитического центра; одна из этих кампаний сумела разместить в СМИ почти сотню материалов.
Ключевые моменты:
- OpenAI заблокировала два кластера аккаунтов ChatGPT из России и Ирана, стоявших за ложными «фронтовыми» структурами.
- Семь вымышленных персон репортёров разместили почти 100 статей примерно в дюжине изданий, уточнила компания.
- Российская кампания стала первой, получившей у OpenAI 5‑ю категорию по шестибалльной шкале Breakout Scale.
Блокировки аккаунтов ChatGPT
Компания раскрыла детали блокировок в опубликованном в четверг отчёте, описав две скрытые кампании, построенные вокруг так называемых ложных фронтовых структур. Обе группы аккаунтов заходили в ChatGPT через VPN. OpenAI не стала публично привязывать ни одну из операций к конкретным госведомствам и отметила, что иранская активность выглядит как коммерческий проект «под заказ».
Иранская операция, получившая название Bogus Bylines, задействовала семь вымышленных репортёров, которые представлялись западными журналистами и предлагали редакциям лонгриды о противостоянии США и Ирана. По данным OpenAI, под этими именами было опубликовано или перепечатано почти 100 материалов примерно в дюжине небольших и средних изданий; первые публикации датируются июлем 2025 года, последние — началом текущего месяца.
Российская операция под названием Dark Clark была нацелена на Латинскую Америку и в основном стремилась подорвать репутацию Украины в регионе. Организаторы, по оценке OpenAI, контролировали псевдоисследовательскую площадку Social Research Center через вымышленную персону по имени Mia Clark. Имеющиеся данные указывают на то, что местные сотрудники центра не знали, что фактически работают на российскую группу, подчеркнула компания.
Также по теме: Импульс крипто‑ETF вернулся после притока $50 млрд, заявляет JPMorgan
Оценки по шкале Breakout Scale
Российская кампания была оценена OpenAI в 5‑ю категорию по шестибалльной шкале Breakout Scale — это первая операция, достигшая такого уровня с момента, как компания начала публиковать подобные отчёты. В качестве основания указаны признаки того, что поддельные материалы привели к публичным комментариям политиков в нескольких странах.
Иранская кампания по размещению статей получила 4‑ю категорию, тогда как её активность в социальных сетях оценили лишь во 2‑ю. Комментарии в соцсетях набирали единичные или двузначные показатели лайков и просмотров. В OpenAI отметили, что из 30 скрытых операций, разоблачённых за последние два с половиной года, наибольшее охват и влияние имеют те, которым удаётся вывести контент в реальные медиа.
Часть фейков Dark Clark разошлась достаточно широко, чтобы вызвать фактчекинг и официальные опровержения — в частности, речь шла о сфабрикованной аудиозаписи, где утверждалось, что власти Боливии планируют отключить подачу воды в Ла-Пас. В компании предостерегли, что операторы кампании приписывали себе и события, к которым не имели отношения, поэтому оценивать её масштаб только по их заявлениям нельзя.
Ранее раскрытые OpenAI случаи получали заметно меньший резонанс. В августе 2024 года компания заблокировала аккаунты, связанные с иранской операцией Storm-2035, которая генерировала контент для пяти сайтов, маскировавшихся под новостные, и получила лишь 2‑ю категорию по Breakout Scale.
Тогда расследователь OpenAI Бен Ниммо отмечал, что кампания пыталась «играть на обе стороны», но так и не добилась ощутимого отклика ни у одной из них.
Читайте далее: 719 ИИ-доказательств по математике от OpenAI под огнём критики: «потерялась» ли задача Навье — Стокса?
