OpenAI estime qu’Astra pourrait se rapprocher de son seuil Critique en cybersécurité, après que ce modèle non publié a produit 10 résultats majeurs en mathématiques et affiché des progrès rapides dans le travail autonome en cybersécurité.
Points clés :
- OpenAI a indiqué le 7 août qu’il ne pouvait plus exclure des capacités de cybersécurité de niveau Critique pour Astra.
- L’entreprise a suspendu certains travaux internes sur Astra le temps de renforcer ses contrôles de sécurité, ses environnements cloisonnés et sa surveillance.
- Astra a également généré 10 résultats de recherche qui ont résolu ou fait progresser des problèmes de longue date en mathématiques et en informatique théorique.
Risque cyber autour d’Astra
OpenAI a déclaré le 7 août que ses évaluations internes récentes montraient des avancées majeures dans le codage agentique et la cybersécurité, au point qu’il n’était plus possible d’écarter la perspective qu’Astra atteigne le niveau Critique dans le cadre de son «Preparedness Framework». Le groupe ne dit pas pour autant que le modèle ait déjà franchi ce seuil. L’évaluation reste préliminaire.
Un modèle jugé Critique, selon le cadre d’OpenAI, pourrait développer de manière autonome des exploits zero-day fonctionnels visant de nombreux systèmes critiques durcis, ou mener de bout en bout des attaques inédites à partir d’objectifs formulés à haut niveau. OpenAI affirme resserrer les accès réseau et aux outils, protéger davantage les pondérations du modèle, renforcer chiffrement et sandboxing, tout en élargissant la surveillance des usages agentiques d’Astra.
La société a également mis en pause les activités liées à Astra qui ne satisfont pas encore à ces exigences renforcées, et affirme vouloir travailler avec des agences gouvernementales et des organisations spécialisées dans la sûreté de l’IA pour mener des tests. OpenAI présentait Astra, le 1er août, comme «notre prochain grand modèle». Le 7 août, l’entreprise parlait d’«un de nos prochains modèles».
À lire aussi : Le Bitcoin se rapproche d’un fork BIP-110 ce week-end avec seulement 2,59 % de soutien des mineurs
Débat mathématique
L’alerte cyber a suivi la révélation par OpenAI qu’une version interne d’Astra avait produit dix résultats couvrant plusieurs domaines, dont la complexité quantique, la cryptographie sur réseaux euclidiens (lattice), la théorie du codage et la combinatoire extrémale. Selon OpenAI, ces travaux ont résolu ou sensiblement fait avancer des problèmes ouverts de longue date, pour un coût d’environ 2 000 dollars en jetons aux tarifs de l’API Sol.
Andrew Blumberg, professeur à Columbia et membre du conseil de First Proof, a déclaré à Mashable que ces résultats étaient impressionnants, sans toutefois modifier son appréciation des capacités actuelles de l’IA. Nombre d’entre eux sont, selon lui, des contre-exemples concis ou de «petites constructions extrêmement ingénieuses» bâties sur des travaux existants. «Ils ne changent pas mes croyances a priori», a-t-il résumé.
Ces avancées illustrent néanmoins la façon dont les modèles de pointe peuvent devenir de précieux partenaires de recherche, tout en créant en parallèle un problème de sécurité dès lors que les mêmes capacités de codage peuvent être appliquées à l’exploitation de failles logicielles.
Cette tension façonne désormais la manière dont OpenAI évalue l’accès à Astra et son déploiement.
Avant Astra, OpenAI avait classé GPT-5.6 Sol au niveau Élevé en cybersécurité, et non au niveau Critique. Ce modèle précédent pouvait aider à la découverte de vulnérabilités et à certaines tâches d’exploitation, mais OpenAI indiquait qu’il n’avait pas démontré de capacités d’attaques autonomes fiables contre des cibles durcies, ce qui fait de la nouvelle évaluation d’Astra une montée en puissance notable.
À suivre : La date de sortie de l’iPhone Fold pointe vers le 18 septembre, mais le consensus n’est pas fait
