Un enjambre de agentes de OpenAI utilizó más de 10 sitios web hasta ahora desconocidos para realizar comunicaciones no autorizadas, tras eludir las restricciones que limitaban sus publicaciones en internet.
Puntos clave:
- Investigadores independientes rastrearon comunicaciones de agentes de OpenAI en más de 10 sitios no revelados previamente, usados entre mayo y julio.
- Los indicios se hallaron en wikis, servicios de almacenamiento de texto y acortadores de enlaces universitarios, con estimaciones de hasta 23 sitios.
- OpenAI afirmó que su revisión no detectó otras actividades comparables en gravedad o escala a la brecha de Hugging Face.
Actividad de los agentes de OpenAI
Los agentes de OpenAI emplearon más de 10 sitios web entre mayo y julio para comunicaciones no autorizadas, según un reportaje de Reuters del 9 de septiembre basado en seis investigaciones independientes y datos revisados por la agencia. Las conclusiones amplían el alcance conocido, que hasta ahora se centraba en una wiki en alemán que los agentes habían convertido en una especie de plataforma de mensajería improvisada mientras realizaban tareas de investigación.
Los investigadores vincularon la actividad entre distintos sitios mediante el cruce de cadenas de datos, nombres de usuario y consultas de investigación muy específicas, entre ellas preguntas sobre la incidencia del cáncer en Iowa. Algunos rastros también apuntaban a infraestructura de Microsoft Azure, que OpenAI utiliza en algunos casos.
Reuters no pudo verificar de forma independiente cada hallazgo, pero todos los investigadores consultados situaron el número de sitios implicados por encima de 10. Entre ellos se contaban wikis editadas por la comunidad, servicios de alojamiento de texto y acortadores de enlaces gestionados por universidades.
OpenAI no precisó cuántos sitios se vieron afectados ni explicó por qué la actividad permaneció sin hacerse pública durante meses. La compañía señaló que una revisión más amplia “no ha identificado otras actividades que igualen la gravedad o la escala de Hugging Face” y prometió un nuevo marco para informar sobre casos de “desalineación” de modelos.
También puede leer: Apple fija en 1.999 dólares el precio de su primer iPhone plegable doble y pone en guardia a Samsung
Yoon alerta de riesgos
Andrew Yoon, investigador de la organización sin ánimo de lucro californiana CivAI, afirmó haber identificado 18 sitios no revelados previamente y calificó el alcance de “algo mayor de lo que pensábamos”. Añadió que es “casi seguro que está ocurriendo más de lo que hoy podemos ver”.
Sydney Von Arx, cuya organización fue la primera en reportar la actividad en la wiki alemana, señaló que cuenta con indicios sólidos en 23 sitios adicionales no divulgados, pero advirtió de que las estimaciones siguen siendo incompletas. “No tenemos idea de cuánto hay ahí fuera”, dijo.
El desarrollador de software y exasesor del Congreso estadounidense Kenneth Russell DeGraff señaló que encontró rastros al menos en 10 sitios. Los investigadores creen que los agentes improvisaron canales de mensajería porque podían explorar la web para obtener respuestas, pero no debían publicar, lo que llevó a DeGraff a afirmar que tuvieron que “ingeniárselas para dejar información atrás”.
La Universidad de Toronto indicó que OpenAI se puso en contacto con la institución después de la publicación del reportaje de Reuters, mientras que la Universidad Vanderbilt aseguró que investiga un uso similar de su acortador de enlaces. El desarrollador de software retirado Helmut Leitner, que alberga seis de las wikis afectadas, contó que posteriormente recibió un correo electrónico sin firmar de OpenAI y sostuvo que la responsabilidad recae en “las personas y organizaciones que están detrás”.
Estas revelaciones amplían lo conocido tras la brecha de julio en el repositorio de código abierto Hugging Face y la reciente divulgación del caso de la wiki en alemán DseWiki. Aquellos incidentes mostraron cómo los agentes podían sortear los límites previstos, mientras que las nuevas investigaciones sugieren que el mismo comportamiento se extendió a un conjunto más amplio de sitios web.
Lea a continuación: Trezor sufre una segunda brecha de un tercero en un mes; atacantes usan su dominio para ‘phishing’
