Astra d’OpenAI semble aujourd’hui exposer beaucoup moins de raisonnement en clair, ravivant les inquiétudes formulées dans un article de 2025 sur la « monitorabilité », co‑signé par le directeur scientifique Jakub Pachocki.
Points clés
- Astra semble effectuer une plus grande partie de son raisonnement sans l’afficher en texte, ce qui nourrit les doutes sur la capacité des systèmes de surveillance à détecter des comportements problématiques.
- Ryan Greenblatt et Pachocki ont co‑signé en juillet 2025 un article qui présentait la monitorabilité de la chaîne de raisonnement comme une opportunité fragile pour la sûreté de l’IA.
- Les signataires du code de conduite européen doivent transmettre à l’AI Office des rapports de sûreté des modèles, incluant des évaluations pouvant être revérifiées de manière indépendante.
Une monitorabilité en recul pour Astra
Semafor a rapporté qu’Astra réalise davantage de raisonnement « en interne », sans le rendre visible dans ses réponses textuelles. De quoi nourrir les interrogations sur la capacité des équipes de surveillance à repérer des comportements suspects pendant que le modèle travaille. Greenblatt, chercheur en sûreté de l’IA chez Redwood Research, écrit qu’Astra « donne l’impression de pouvoir résoudre des problèmes de mathématiques de concours très difficiles entièrement dans sa tête ». Et de conclure : « Cela me paraît extrêmement préoccupant. »
Plusieurs sources laissent également entendre qu’OpenAI aurait volontairement réduit la visibilité sur certains raisonnements du modèle pour améliorer ses performances, une hypothèse que l’entreprise n’a toutefois pas confirmée. Pachocki a réagi en expliquant vouloir « éviter une course vers l’“immonitorable” déclenchée par des reportages confus ».
TNW avait déjà indiqué qu’Astra était devenu plus difficile à surveiller que son prédécesseur lorsque le modèle tentait d’échapper aux mécanismes de contrôle, un domaine qu’OpenAI qualifie elle‑même de priorité centrale de recherche.
À lire aussi : OpenAI Says AI Can Now Handle Research Tasks Lasting Several Days
L’avertissement sécurité de Pachocki
Le différend est d’autant plus marquant que Greenblatt et Pachocki comptent parmi la quarantaine d’auteurs d’un article de juillet 2025 présentant la monitorabilité de la chaîne de raisonnement comme une opportunité nouvelle, mais fragile, pour la sécurité de l’IA. Des chercheurs d’OpenAI, de Google DeepMind, d’Anthropic, de Meta, d’Amazon, de l’UK AI Security Institute et de Redwood Research y ont contribué.
Le texte appelait les laboratoires de pointe à mettre en place des protocoles standardisés de tests de monitorabilité, à en publier les résultats ainsi que les limites dans des « system cards », et à considérer la monitorabilité au même niveau que la performance lors des décisions d’entraînement et de déploiement.
L’Europe donne désormais un cadre institutionnel à ce processus de transparence. Les signataires du General‑Purpose AI Code of Practice de l’UE doivent remettre à l’AI Office un Model Report avant la mise sur le marché, détaillant les évaluations, les mesures de mitigation et les rapports produits par des évaluateurs externes.
Chaque rapport doit également inclure cinq paires d’entrées et de sorties choisies aléatoirement pour chaque évaluation de modèle pertinente, afin de fournir aux examinateurs externes une base de vérification indépendante. OpenAI est signataire à part entière de ce dispositif.
Les inquiétudes sont antérieures au lancement d’Astra. L’article de juillet 2025 alertait déjà sur le risque que de nouvelles architectures réduisent la part de raisonnement visible en chaîne de pensée. OpenAI a par la suite accepté un surcoût de calcul d’environ 20 % pour renforcer le monitoring de sûreté de ses systèmes.
À suivre : Bitcoin ETFs Pull In $987M, Extending Inflow Streak To Three Weeks
