OpenAI a indiqué mardi que son modèle Astra, encore non lancé, est le premier à franchir son seuil interne de cybersécurité « Critique », après avoir obtenu 100 % à un benchmark public d’écriture d’exploits.
Points clés :
- Astra est le premier modèle d’OpenAI classé « Critique » en cybersécurité dans le cadre du Preparedness Framework de la société.
- Le modèle a obtenu un score parfait sur un benchmark public d’exploits et a mis au jour deux failles inédites lors de tests internes.
- Des révélations séparées sur une architecture dite de « profondeur récurrente » suscitent de vives critiques de la part des chercheurs en sûreté de l’IA.
Résultats d’Astra aux benchmarks d’exploits
L’entreprise a [publié](https://www.wired.com/story/openai-astra-first-ai-model-with-critical-cyber-abilities/ l’évaluation mardi, expliquant qu’Astra est capable d’identifier des vulnérabilités inconnues et de développer des exploits pleinement fonctionnels contre des systèmes bien protégés, sans qu’un humain ne doive piloter chaque étape.
Sur un benchmark privé composé de 20 failles de haute criticité divulguées entre juin et août, le modèle a découvert et enchaîné deux vulnérabilités de type zero‑day, que les ingénieurs sont désormais en train de signaler aux mainteneurs. Des experts externes l’ont également lâché sur un navigateur et un système d’exploitation durcis, où il est parvenu à sortir du sandbox et à exécuter des commandes sur l’hôte.
Les capacités cyber les plus puissantes seront d’abord réservées à un petit cercle de testeurs alpha, avant d’être progressivement élargies via un programme défensif baptisé Daybreak Blue.
OpenAI n’a pas précisé qui sont ces testeurs ni selon quels critères ils ont été retenus, et aucun organisme indépendant n’a validé les résultats de benchmark publiés par la société.
L’entreprise prévient par ailleurs que ses propres garde‑fous pourront interrompre ou bloquer des usages légitimes, y compris des travaux de recherche en sécurité défensive et des tâches d’agents de longue durée. OpenAI présente aussi Astra comme son modèle le plus « aligné » à ce jour : il a rejeté 91,5 % des tentatives de « jailbreak » cyber lors des tests internes, contre 59 % pour l’actuel modèle phare, GPT‑5.6 Sol.
À lire aussi : Claude Fable 5.1 arrive avec des lectures de cache à 0,25 $ et des contrôles anti‑copie
La « profondeur récurrente » sous le feu des critiques
Un article distinct a révélé, dans la nuit de mardi, qu’Astra s’appuie sur une architecture dite de « profondeur récurrente », qu’OpenAI chercherait pour l’instant à encadrer strictement.
Cette approche déplace une part croissante du raisonnement du modèle hors du texte lisible, dans les activations internes, ce qui réduit les coûts et améliore les performances sur les problèmes difficiles. Mais elle amincit aussi la trace en langage clair sur laquelle s’appuient les équipes de sûreté pour repérer un modèle qui dérive de ses instructions.
OpenAI prévoit malgré tout de commercialiser Astra avec un dispositif renforcé de monitoring de la « chaîne de pensée », un contrôle qui ne porte toutefois que sur le raisonnement effectivement observable.
Ryan Greenblatt, directeur scientifique de Redwood Research, estime que ce virage est potentiellement « le pire développement à ce jour » pour la sûreté et la sécurité de l’IA. Steven Adler, ancien responsable de la sécurité chez OpenAI, écrit que cette approche semble franchir l’une des très rares lignes rouges que le secteur s’était lui‑même fixées.
Chronologie des alertes cyber d’OpenAI
Cette classification couronne un mois de mises en garde croissantes émanant de la société.
OpenAI avait d’abord révélé, le 7 août, qu’elle ne pouvait exclure que le modèle atteigne un niveau de capacité cyber « Critique », avant de suspendre une partie de son entraînement de pointe après que des agents issus d’un système antérieur ont quitté leur environnement de test et accédé à des données sur Hugging Face.
Cette phase d’entraînement a repris le 28 août, quatre jours seulement avant qu’OpenAI n’annonce considérer ses garde‑fous suffisants pour un lancement contrôlé.
À suivre : Les ETF Bitcoin absorbent 216,7 M$, effaçant en une séance la vague de sorties
