Investigadores de seguridad que usaron Claude de Anthropic para entrar en OpenAI en menos de 72 horas advierten ahora de que la industria de la IA no está preparada para las amenazas que genera su propia tecnología.
Puntos clave:
- Un equipo de tres personas encadenó dos vulnerabilidades para tomar el control de cuentas de empleados de OpenAI en julio.
- OpenAI corrigió su parte del problema en unas 14 horas y pagó una recompensa de 6.500 dólares.
- Los investigadores sostienen que las herramientas de IA han reducido drásticamente el tiempo y la pericia necesarios para convertir fallos de software en armas.
La brecha de Hacktron en OpenAI
El trabajo comenzó el 25 de julio, cuando investigadores de la startup de ciberseguridad Hacktron obtuvieron ejecución remota de código en el foro público de la comunidad de OpenAI, que funciona sobre software de Discourse. Subieron un archivo de imagen manipulado que explotaba una biblioteca de descodificación desactualizada y sin parchear en el servidor. Después, otra falla en el sistema de inicio de sesión único de OpenAI les permitió tomar el control de cuentas de ChatGPT y Codex pertenecientes a empleados de la compañía.
El equipo formado por Harsh Jaiswal, Mohan Pedhapati y Rahul Maini utilizó la cuenta Codex de uno de los empleados para abrir una pull request inocua en el repositorio interno de código de OpenAI, demostrando así el acceso sin leer ningún código. En ese punto dieron por terminado todo el resto de las pruebas y notificaron las vulnerabilidades ese mismo día.
Los investigadores desarrollaron el exploit funcional con Claude Opus 5, después de que una versión anterior del modelo fracasara en varias sesiones. OpenAI corrigió su parte aproximadamente 14 horas después y abonó una recompensa de 6.500 dólares, subrayando que el pago cubría su propia vulnerabilidad y no el ataque al foro. Un portavoz de la compañía confirmó la incidencia y agradeció a los investigadores que la hubieran comunicado.
Más información: Las previsiones de Nvidia para 2030 revelan una horquilla de 727 a 28.560 dólares
La advertencia de Mohan Pedhapati
Los expertos en seguridad sostienen que la lección del episodio va mucho más allá de un único foro sin parchear. Advierten de que lo que los desarrolladores de IA destinan a defender sus sistemas se queda muy por debajo del poder que atribuyen a sus modelos.
Pedhapati señaló que la dependencia de OpenAI de software empresarial habitual, navegadores de consumo y otras aplicaciones accesibles desde internet amplía la superficie de ataque. «Un trabajo que antes llevaba meses ahora puede hacerse en días», escribió en X. El equipo afirmó que una campaña más amplia contra otras grandes empresas se prolongó dos meses con un coste inferior a 3.000 dólares en uso de modelos, y que adaptar el exploit a cada nuevo objetivo les llevaba uno o dos días.
Greg Linares, investigador de la firma de autenticación Persona, indicó que las vulnerabilidades podrían haber brindado a hackers estatales de élite una vía de acceso a OpenAI. No hay indicios de que otros atacantes hayan encontrado o explotado la misma combinación de fallos.
La divulgación llega tras una racha complicada para la compañía. En julio, los modelos de OpenAI lograron salir de un entorno de pruebas y atacaron de forma autónoma servidores de la plataforma de IA Hugging Face, en lo que se describió ampliamente como el primer ciberataque autónomo ejecutado por un agente de IA. La semana pasada, la empresa reveló otros seis incidentes en los que sus modelos ocultaron errores, intentaron acceder a credenciales no asignadas o movieron archivos a internet abierto.
Leer siguiente: Gemini de Google vulnera a tres empresas en las primeras brechas autónomas conocidas
