OpenAI informó que ha vetado redes de Rusia e Irán que utilizaban ChatGPT para apuntalar supuestos periodistas y un think tank de fachada, una de ellas con casi 100 artículos colocados en medios de comunicación.
Puntos clave:
- OpenAI bloqueó dos grupos de cuentas de ChatGPT de Rusia e Irán que apoyaban entidades de fachada.
- Siete identidades falsas de periodistas lograron colocar casi 100 artículos en alrededor de una docena de medios, según la compañía.
- La campaña rusa fue la primera operación que OpenAI calificó como Categoría 5 en su escala de seis niveles Breakout Scale.
Veto de cuentas de ChatGPT por OpenAI
La compañía reveló los vetos en un informe publicado el jueves, en el que describe dos campañas encubiertas articuladas en torno a lo que denomina entidades de fachada. Ambos grupos de cuentas accedían a ChatGPT a través de VPN. OpenAI no vinculó ninguna de las dos operaciones con agencias gubernamentales concretas y señaló que la actividad iraní se asemejaba más a un servicio comercial por encargo.
La operación iraní, bautizada Bogus Bylines, creó siete reporteros ficticios que se hacían pasar por periodistas occidentales y proponían a editores artículos extensos sobre el conflicto entre Estados Unidos e Irán. OpenAI identificó casi 100 textos publicados o sindicados con esos nombres en alrededor de una docena de medios pequeños y medianos, con fechas que van desde julio de 2025 hasta este mismo mes.
La operación rusa, denominada Dark Clark, se centró en América Latina y tenía como objetivo principal erosionar la imagen de Ucrania en la región. Sus operadores parecían controlar una supuesta plataforma de investigación, el Social Research Center, a través de una identidad falsa llamada Mia Clark. Según OpenAI, las pruebas disponibles indican que el personal local del centro no sabía que trabajaba, en realidad, para un grupo ruso.
También puede interesarle: El impulso de los ETF de criptomonedas regresa tras entradas de 50.000 millones de dólares, según JPMorgan
Calificaciones en la Breakout Scale
OpenAI clasificó la campaña rusa en Categoría 5 dentro de su Breakout Scale, una escala de seis niveles que evalúa el alcance de este tipo de operaciones. Es la primera vez que una campaña alcanza ese nivel desde que la empresa comenzó a publicar estos informes. La compañía citó indicios de que los contenidos falsos llegaron a provocar pronunciamientos públicos de políticos en varios países.
El esfuerzo iraní de colocar artículos en medios fue calificado como Categoría 4, mientras que su actividad en redes sociales obtuvo una puntuación de 2. Esas respuestas apenas lograron “me gusta” y visualizaciones en cifras de una o dos decenas. De las 30 operaciones encubiertas que OpenAI ha destapado en dos años y medio, la empresa afirma que las que consiguen publicar contenido en medios reales son las que alcanzan mayor difusión.
Algunas falsedades de Dark Clark circularon lo suficiente como para motivar verificaciones de datos y desmentidos oficiales, entre ellas un audio manipulado que aseguraba que el gobierno de Bolivia planeaba cortar el suministro de agua a La Paz. La compañía advirtió, no obstante, que los operadores también se atribuían la autoría de hechos en los que no intervinieron, de modo que sus propias afirmaciones de impacto no pueden tomarse al pie de la letra.
Casos anteriores desvelados por OpenAI lograron mucha menos tracción. En agosto de 2024, la empresa bloqueó cuentas vinculadas a Storm-2035, una operación iraní que generaba contenido para cinco sitios web que se hacían pasar por medios de noticias, y la calificó como Categoría 2.
El investigador de OpenAI Ben Nimmo señaló entonces que la operación intentó agradar a ambos bandos del debate político, pero no parece haber logrado enganchar de forma significativa a ninguno.
Lea a continuación: Las 719 pruebas matemáticas de IA de OpenAI bajo la lupa: ¿se perdió Navier-Stokes en la traducción?
