OpenAI advierte de que Astra podría aproximarse a su umbral “Crítico” de ciberseguridad después de que este modelo aún no lanzado generara 10 resultados matemáticos de gran calado y mostrara avances muy rápidos en tareas de ciberseguridad autónoma.
Claves:
- OpenAI señaló el 7 de agosto que ya no puede descartar capacidades de ciberseguridad de nivel Crítico para Astra.
- La compañía ha pausado parte del trabajo interno con Astra mientras refuerza controles de seguridad, entornos aislados y sistemas de monitorización.
- Astra también produjo 10 resultados de investigación que resuelven o impulsan problemas de larga data en matemáticas y computación teórica.
Riesgo cibernético de Astra
OpenAI informó el 7 de agosto de que sus evaluaciones internas recientes han detectado un fuerte salto en capacidades de programación “agéntica” y ciberseguridad, hasta el punto de que ya no puede descartar que Astra alcance el nivel Crítico según su “Preparedness Framework”. La compañía no ha afirmado que el modelo haya llegado ya a ese umbral: insiste en que la evaluación sigue siendo preliminar.
En el marco de OpenAI, un modelo Crítico sería capaz de desarrollar de forma autónoma exploits de día cero funcionales contra múltiples sistemas críticos reforzados, o de ejecutar ataques novedosos de extremo a extremo partiendo únicamente de un objetivo de alto nivel. OpenAI asegura que está endureciendo el control de acceso a redes y herramientas, la protección de los pesos del modelo, el cifrado y los mecanismos de sandboxing, al tiempo que amplía la monitorización de los usos “agénticos” de Astra.
La firma también ha paralizado aquellas actividades con Astra que aún no cumplen los nuevos controles reforzados y afirma que colaborará con organismos públicos y con organizaciones especializadas en seguridad de IA para llevar a cabo pruebas adicionales. El pasado 1 de agosto, OpenAI describía Astra como “nuestro próximo gran modelo”. El 7 de agosto, pasó a referirse a Astra como “uno de nuestros próximos modelos”.
También puedes leer: Bitcoin se acerca este fin de semana a un fork BIP-110 con solo un 2,59% de apoyo minero
Debate matemático
La advertencia en ciberseguridad llegó después de que OpenAI revelara que una versión interna de Astra había producido 10 resultados en áreas como complejidad cuántica, criptografía de redes de retículos, teoría de códigos y combinatoria extremal. Según la empresa, ese trabajo resolvió o impulsó de forma sustancial problemas abiertos de larga trayectoria y requirió en torno a 2.000 dólares en tokens a precios de la API de Sol.
Andrew Blumberg, profesor de la Universidad de Columbia y miembro del consejo de First Proof, declaró a Mashable que los resultados son impresionantes, pero no modifican su percepción de las capacidades actuales de la IA. Explicó que muchos eran contraejemplos concisos o “construcciones pequeñas y extremadamente ingeniosas” apoyadas en trabajos ya conocidos. “No cambian mis creencias previas”, señaló.
Aun así, los resultados ilustran cómo los modelos en la frontera tecnológica pueden convertirse en colaboradores útiles para la investigación, mientras generan un problema paralelo de seguridad cuando esas mismas capacidades de programación se aplican a la explotación de software.
Esa tensión está empezando a definir cómo OpenAI evalúa el acceso y el despliegue de sus sistemas.
Antes de Astra, OpenAI había clasificado GPT-5.6 Sol en el nivel Alto de ciberseguridad, por debajo de Crítico. Aquel modelo podía ayudar a descubrir vulnerabilidades y en tareas de explotación, pero OpenAI sostuvo que no había demostrado ataques autónomos fiables contra objetivos fuertemente protegidos, lo que convierte la nueva evaluación de Astra en una escalada significativa.
Siguiente lectura: La fecha de lanzamiento del iPhone Fold apunta al 18 de septiembre, pero no hay consenso
