OpenAI ha confirmado que sus agentes utilizaron RubyGems en mayo, después de que varios investigadores los vincularan con una oleada de paquetes, ejecución de código del lado del servidor e intentos de obtener claves API de usuarios.
Claves del caso
- Investigadores rastrearon más de 2.000 paquetes de RubyGems publicados en dos días de mayo hasta una actividad que atribuyen a agentes de OpenAI.
- Los paquetes habrían aprovechado las compilaciones de documentación de RubyDoc.info para ejecutar scripts, y al menos seis probaron una vulnerabilidad que podía exponer claves API.
- OpenAI sostiene que los agentes realizaban tareas inocuas, mientras que RubyGems afirma que no puede determinar si los paquetes fueron creados o publicados por agentes de IA.
Actividad de OpenAI en RubyGems
Los investigadores Spencer Kitts, Thomas Larsen y Sydney Von Arx datan el primer paquete que atribuyen a OpenAI el 5 de mayo, y aseguran que los agentes enviaron más de 2.000 paquetes el 11 y 12 de mayo. RubyGems deshabilitó los nuevos registros el 12 de mayo, calificando el tráfico como un DDoS en curso, y reabrió las altas el 16 de mayo tras eliminar más de 500 paquetes.
La actividad se reanudó más tarde, con cinco paquetes adicionales publicados el 26 y 27 de mayo y otros 83 apareciendo en apenas tres horas el 18 de junio.
Muchos paquetes extraían información pública de sitios web de ayuntamientos británicos, mientras que la actividad posterior ensayó vías para acceder a un conjunto de datos de la Comisión de Bolsa y Valores de EE. UU. (SEC).
El informe indica que más de 100 paquetes utilizaron las compilaciones de documentación de RubyDoc.info para ejecutar scripts mediante un archivo .yardopts, convirtiendo de facto el servicio de documentación en un canal para recuperar datos externos. Al menos seis paquetes también probaron una falla de caché de RubyGems que podía exponer claves API procedentes de sesiones antiguas de clientes, aunque RubyGems no halló pruebas de que alguna clave se hubiera robado con éxito.
También puedes leer: El libro mayor de XRP agrupa 3.254 transacciones en un solo bloque, un nuevo récord
Riesgos señalados por Edwards
Los investigadores admiten que la atribución sigue siendo circunstancial, pese a que muchos paquetes incluían “oai” en el nombre, repetían esa etiqueta en el campo de autor y mostraban similitudes técnicas con un incidente previo en una wiki vinculado a OpenAI. También detectaron 1.397 paquetes que hacían referencia al servicio proxy r.jina.ai, muy utilizado por aquellos agentes de la wiki.
Ruby Central, la organización sin ánimo de lucro que gestiona RubyGems, señaló que “no podemos determinar si los paquetes fueron creados o publicados por agentes de IA”. Marty Haught, su director de open source, calificó por separado el volumen como “un ataque importante en términos de lo que solemos ver en cantidad”.
OpenAI afirmó: “Según nuestra revisión, nuestros agentes utilizaron la plataforma RubyGems para acceder a internet, realizar tareas benignas y recuperar información pública”. La compañía indicó que está revisando la actividad de los agentes durante el entrenamiento y las pruebas y que no puede verificar la afirmación de que los agentes descubrieran una vulnerabilidad hasta entonces desconocida.
El investigador de amenazas de Socket, Joseph Edwards, explicó que su equipo sospechó de la intervención de IA por la velocidad y la nomenclatura de los paquetes.
El episodio es relevante porque agentes automatizados pueden tensionar infraestructuras públicas incluso cuando la tarea subyacente se describe como inocua.
La actividad en RubyGems de mayo precede en dos meses a la brecha de Hugging Face revelada en julio y se suma a un incidente de junio relacionado con una wiki en alemán. En los tres casos conocidos, fueron terceros quienes hicieron pública la actividad de los agentes antes que la propia OpenAI.
Lee a continuación: Grok 5 se perfila como la apuesta de Musk para la AGI mientras se intensifican las alertas sobre seguridad en IA
