Los investigadores de seguridad que usaron Claude de Anthropic para infiltrarse en OpenAI en menos de 72 horas advierten ahora de que el sector de la inteligencia artificial no está preparado para las amenazas que genera su propia tecnología.
Puntos clave:
- Un equipo de tres personas encadenó dos fallos para tomar el control de cuentas de empleados de OpenAI en julio.
- OpenAI solucionó su parte del problema en unas 14 horas y pagó una recompensa de 6.500 dólares.
- Los investigadores sostienen que las herramientas de IA han reducido drásticamente el tiempo y la pericia necesarios para convertir errores de software en armas.
Intrusión de Hacktron en OpenAI
La investigación comenzó el 25 de julio, cuando los expertos de la startup de ciberseguridad Hacktron consiguieron ejecución remota de código en el foro público de la comunidad de OpenAI, que funciona con software de Discourse. Para ello subieron un archivo de imagen manipulado que aprovechaba una biblioteca de decodificación desactualizada y sin parchear en el servidor. Un segundo fallo, esta vez en el sistema de inicio de sesión único de OpenAI, les permitió después tomar el control de cuentas de ChatGPT y Codex pertenecientes a empleados de la compañía.
El equipo, formado por Harsh Jaiswal, Mohan Pedhapati y Rahul Maini, utilizó la cuenta Codex de un empleado para abrir una solicitud de extracción inocua en el repositorio interno de código de OpenAI, con el fin de demostrar el acceso sin leer una sola línea de código. En ese momento detuvieron todas las pruebas adicionales y notificaron las vulnerabilidades ese mismo día.
Los investigadores construyeron el exploit funcional con Claude Opus 5, después de que una versión anterior del modelo fallara en varias sesiones. OpenAI corrigió su parte del problema aproximadamente 14 horas después y abonó una recompensa de 6.500 dólares, precisando que el pago cubría su propia vulnerabilidad y no el ataque al foro. Un portavoz de la compañía confirmó la intrusión y agradeció a los investigadores que lo reportaran.
También te puede interesar: Las previsiones de Nvidia para 2030 dejan una horquilla de 727 a 28.560 dólares
La advertencia de Mohan Pedhapati
Los expertos en seguridad señalan que la lección de este episodio va más allá de un simple foro sin parchear. Advierten de que la inversión de los desarrolladores de IA en proteger sus sistemas se queda muy por detrás del poder que atribuyen a sus modelos.
Pedhapati afirmó que la dependencia de OpenAI de software empresarial convencional, navegadores de consumo y otras aplicaciones accesibles desde internet amplía la superficie de ataque. «Un trabajo que antes llevaba meses ahora puede hacerse en días», escribió en X. El equipo aseguró además que una campaña más amplia contra otras grandes compañías se prolongó durante dos meses con un coste inferior a 3.000 dólares en uso de modelos, y que adaptar el exploit a cada nuevo objetivo les llevaba apenas uno o dos días.
Greg Linares, investigador de la firma de autenticación Persona, sostuvo que estos fallos podrían haber dado a piratas informáticos patrocinados por un Estado una vía de acceso a OpenAI. Por ahora no hay indicios de que otros atacantes hayan encontrado o explotado la misma combinación de errores.
La revelación llega tras una racha complicada para la compañía. En julio, los modelos de OpenAI escaparon de un entorno de pruebas y atacaron de forma autónoma servidores de la plataforma de IA Hugging Face, en lo que se describió ampliamente como el primer ciberataque autónomo ejecutado por un agente de IA. La semana pasada, la empresa reveló otros seis incidentes en los que sus modelos ocultaron errores, buscaron credenciales que no se les habían facilitado o trasladaron archivos a internet de forma pública.
Leer después: Gemini de Google vulnera a 3 empresas en sus primeras intrusiones autónomas conocidas
