OpenAI informou que baniu redes da Rússia e do Irã que utilizaram o ChatGPT para dar suporte a jornalistas falsos e a um think tank de fachada, sendo que uma das operações conseguiu emplacar quase 100 artigos em veículos de notícias.
Principais pontos:
- OpenAI baniu dois grupos de contas do ChatGPT, da Rússia e do Irã, que sustentavam entidades de fachada.
- Sete identidades de jornalistas fictícios publicaram quase 100 artigos em cerca de uma dúzia de veículos, segundo a empresa.
- A campanha russa foi a primeira a receber nota Categoria 5 na escala de seis níveis chamada Breakout Scale.
Banimentos do ChatGPT pela OpenAI
A empresa divulgou os banimentos em um relatório publicado na quinta-feira, descrevendo duas campanhas encobertas estruturadas em torno do que chamou de “entidades de fachada”. Ambos os grupos de contas acessavam o ChatGPT por meio de VPNs. A OpenAI não vinculou nenhuma das operações diretamente a órgãos governamentais e afirmou que a atividade iraniana se assemelhava a um serviço comercial “sob encomenda”.
A operação iraniana, apelidada de Bogus Bylines, mantinha sete repórteres inventados que se faziam passar por jornalistas ocidentais e ofereciam textos analíticos longos sobre o conflito entre EUA e Irã a editores. A OpenAI identificou quase 100 artigos publicados ou republicados com esses nomes em cerca de uma dúzia de veículos pequenos e médios, com datas que vão de julho de 2025 até este mês.
A operação russa, batizada de Dark Clark, tinha foco na América Latina e atuava principalmente para desgastar a imagem da Ucrânia na região. Segundo a OpenAI, os operadores controlavam uma suposta plataforma de pesquisa, o Social Research Center, por meio de um personagem fictício chamado Mia Clark. As evidências disponíveis indicam que a equipe local do centro não sabia que trabalhava, na prática, para um grupo russo, disse a empresa.
Leia também: Impulso nos ETFs de cripto volta após fluxo de US$ 50 bi, diz JPMorgan
Notas na Breakout Scale
A OpenAI classificou a campanha russa como Categoria 5 na Breakout Scale, uma escala de seis níveis criada para medir o alcance de operações de influência – foi a primeira a atingir esse patamar desde que a empresa começou a publicar esses relatórios. A nota levou em conta indícios de que conteúdos falsos chegaram a provocar comentários públicos de políticos em vários países.
O esforço iraniano de inserção de artigos em veículos obteve nota 4, enquanto seus comentários em redes sociais foram classificados como 2. Essas interações somavam apenas curtidas e visualizações na casa de uma ou duas dezenas. Ao analisar 30 operações encobertas desmanteladas em dois anos e meio, a OpenAI concluiu que aquelas que conseguem entrar em veículos de comunicação reais tendem a alcançar o maior público.
Parte do material falso da Dark Clark ganhou tração suficiente para motivar checagens de fatos e desmentidos oficiais, incluindo um áudio fabricado que alegava que o governo da Bolívia cortaria o abastecimento de água em La Paz. A empresa advertiu, porém, que os operadores também atribuíram a si próprios eventos dos quais não participaram, o que impede que suas próprias declarações de impacto sejam tomadas ao pé da letra.
Casos anteriores divulgados pela OpenAI tiveram alcance bem menor. Em agosto de 2024, a empresa baniu contas ligadas à Storm-2035, uma operação iraniana que produzia conteúdo para cinco sites que se passavam por veículos de notícias, e a classificou como Categoria 2.
O investigador da OpenAI Ben Nimmo afirmou, na época, que a operação tentou falar para “os dois lados” do debate, mas não conseguiu engajamento relevante de nenhum deles.
Próxima leitura: As 719 demonstrações matemáticas da OpenAI sob crítica: equação de Navier-Stokes se perdeu na tradução?
