OpenAI сообщила, что заблокировала связанные с Россией и Ираном сети аккаунтов, использовавших ChatGPT для поддержки вымышленных журналистов и фиктивного аналитического центра. Одна из этих операций сумела разместить почти 100 материалов в СМИ.
Ключевые факты:
- OpenAI заблокировала два кластера аккаунтов ChatGPT из России и Ирана, стоявших за подставными структурами.
- Семь фейковых персоналий «журналистов» разместили почти 100 статей примерно в дюжине изданий, уточнили в компании.
- Российская кампания стала первой, получившей от OpenAI 5‑ю категорию по шестибалльной Breakout Scale.
Блокировки ChatGPT со стороны OpenAI
Компания раскрыла детали блокировок в отчете, опубликованном в четверг, описав две скрытные кампании, выстроенные вокруг так называемых подложных структур. В обоих случаях операторы выходили к ChatGPT через VPN. OpenAI не стала напрямую связывать эти кампании с конкретными госорганами и отметила, что иранская активность по своему характеру напоминала коммерческую, «по заказу».
Иранская операция под названием Bogus Bylines, по данным OpenAI, задействовала семь выдуманных репортеров, которые выдавали себя за западных журналистов и предлагали редакциям объемные аналитические материалы о конфликте США–Иран. OpenAI выявила почти 100 статей, опубликованных или перепечатанных под этими именами в примерно дюжине небольших и средних по масштабу медиа. Самый ранний материал датирован июлем 2025 года, последний — началом этого месяца.
Российская операция под названием Dark Clark была нацелена на Латинскую Америку и в основном работала на подрыв репутации Украины в регионе. Ее операторы, как предполагается, контролировали самодельную «исследовательскую платформу» Social Research Center через вымышленный профиль по имени Миа Кларк. По данным OpenAI, имеющиеся свидетельства указывают на то, что местные сотрудники центра не знали, что фактически работают на российскую группу.
Также по теме: Импульс крипто‑ETF возвращается после притока $50 млрд, считают в JPMorgan
Оценка по Breakout Scale
Российская кампания была оценена OpenAI в 5‑ю категорию по шестибалльной шкале Breakout Scale — это первая операция, достигшая такого уровня с момента начала публикации подобных отчетов. В качестве одного из аргументов компания привела факты, что фейковые материалы спровоцировали публичные комментарии политиков в ряде стран.
Иранская кампания по массовому размещению статей получила 4‑ю категорию, а ее активность в соцсетях — лишь 2‑ю. Комментарии в социальных сетях собирали единичные или двузначные показатели лайков и просмотров. В OpenAI подчеркнули, что из 30 скрытых операций, выявленных за два с половиной года, наибольшим охватом, как правило, обладают те, что добиваются размещения контента в реальных медиа.
Некоторые вбросы Dark Clark разошлись достаточно широко, чтобы вызвать проверки фактов и официальные опровержения. Среди них — фейковая аудиозапись с утверждением, будто власти Боливии намерены отключить подачу воды в Ла‑Пас. При этом компания предупредила, что операторы также приписывали себе события, к которым не имели отношения, поэтому их собственные заявления о влиянии нельзя воспринимать буквально.
Более ранние случаи, о которых рассказывала OpenAI, получали гораздо меньший резонанс. В августе 2024 года компания заблокировала аккаунты, связанные с иранской операцией Storm‑2035, которая генерировала контент для пяти сайтов, маскирующихся под новостные. Та кампания была оценена всего в 2‑ю категорию.
Тогда расследователь OpenAI Бен Ниммо отмечал, что операторы пытались «играть на обе стороны», но, судя по данным, не смогли добиться заметной вовлеченности ни с одной.
Читайте также: 719 математических доказательств ИИ от OpenAI под огнем: где потерялись уравнения Навье–Стокса?
