OpenAI informou que baniu redes ligadas à Rússia e ao Irã que usavam o ChatGPT para operar perfis de jornalistas fictícios e um think tank de fachada, com uma delas conseguindo emplacar quase 100 artigos em veículos de imprensa.
Principais pontos:
- A OpenAI baniu dois agrupamentos de contas de ChatGPT, da Rússia e do Irã, que davam suporte a estruturas de fachada.
- Sete personas de “jornalistas” falsos publicaram quase 100 artigos em cerca de uma dúzia de veículos, segundo a empresa.
- A campanha russa foi a primeira a receber da OpenAI a classificação Categoria 5 na escala de seis níveis chamada Breakout Scale.
Banimentos de contas do ChatGPT pela OpenAI
A empresa revelou os banimentos em um relatório divulgado na quinta-feira, descrevendo duas campanhas clandestinas baseadas em entidades de fachada. Ambos os grupos acessavam o ChatGPT via VPNs. A OpenAI não vinculou nenhuma das operações diretamente a órgãos governamentais específicos e afirmou que a atividade iraniana se parecia mais com um serviço comercial sob encomenda.
A operação iraniana, apelidada de Bogus Bylines, mantinha sete repórteres inventados que se apresentavam como jornalistas ocidentais e ofereciam a editores textos analíticos longos sobre o conflito entre EUA e Irã. A OpenAI identificou quase 100 artigos publicados ou distribuídos em sindicância com esses nomes em cerca de uma dúzia de veículos pequenos e médios; o mais antigo é de julho de 2025 e o mais recente é deste mês.
A operação russa, batizada de Dark Clark, mirava a América Latina e atuava principalmente para desgastar a imagem da Ucrânia na região. Os operadores aparentavam controlar uma plataforma de “pesquisa” autodenominada Social Research Center, por meio de uma persona falsa chamada Mia Clark. As evidências disponíveis indicam que a equipe local do centro não sabia que trabalhava para um grupo russo, segundo a empresa.
Veja também: Impulso dos ETFs de cripto volta após fluxo de US$ 50 bi, diz JPMorgan
Notas na Breakout Scale
A OpenAI classificou a campanha russa como Categoria 5 na Breakout Scale, de seis níveis, a primeira operação a atingir esse patamar desde o início da divulgação pública desses relatórios. A empresa citou evidências de que os conteúdos falsos provocaram manifestações públicas de políticos em vários países.
O esquema iraniano de plantação de artigos recebeu nota 4, enquanto seus comentários em redes sociais foram avaliados como 2. Essas respostas geravam apenas curtidas e visualizações em números de um ou dois dígitos. Entre as 30 operações encobertas que revelou em dois anos e meio, a OpenAI afirma que as que conseguem emplacar conteúdo em veículos reais tendem a ter o maior alcance.
Alguns materiais falsos da Dark Clark circularam a ponto de motivar checagens de fatos e desmentidos oficiais, incluindo um áudio fabricado que alegava que o governo da Bolívia cortaria o abastecimento de água em La Paz. A empresa alertou que os operadores também atribuíram a si eventos dos quais não participaram, de modo que suas próprias alegações de impacto não podem ser aceitas ao pé da letra.
Casos anteriores revelados pela OpenAI tiveram repercussão muito menor. Em agosto de 2024, a companhia baniu contas ligadas ao Storm-2035, uma operação iraniana que produzia conteúdo para cinco sites que se passavam por veículos jornalísticos, classificada como Categoria 2.
O investigador da OpenAI Ben Nimmo afirmou na época que a operação tentava jogar dos dois lados, mas não parecia obter engajamento relevante de nenhum deles.
Próximo assunto: As 719 provas matemáticas da OpenAI sob fogo: a hipótese de Navier-Stokes se perdeu na tradução?
