OpenAI a dissous son équipe « Preparedness » (Préparation) à la fin juillet, supprimant ainsi le troisième pôle de sûreté dédié que le groupe a fermé en environ deux ans.
Points clés :
- OpenAI a fermé son équipe Préparation fin juillet et réparti les travaux sur les risques biologiques et cyber entre des équipes existantes.
- Cette décision intervient après une série de départs de cadres en charge de la sûreté et de l’éthique, alors que l’entreprise se rapproche d’une introduction en Bourse.
- OpenAI affirme que son « Preparedness Framework » et son Safety Advisory Group restent en place, avec les mêmes catégories de risques.
OpenAI dissout son équipe Préparation avant son IPO
Le Financial Times a le premier révélé cette réorganisation, en citant plusieurs sources proches du dossier. Cette unité évaluait si les modèles de pointe pouvaient provoquer des dommages graves ou catastrophiques, puis étudiait les moyens d’en atténuer les risques.
Après la restructuration, l’entreprise a découpé ce mandat par domaine : les sujets de biologie et de cybersécurité ont été confiés à des cadres seniors répartis dans des équipes déjà en place.
Ce qui disparaît, c’est donc la chaîne hiérarchique dédiée, plus que le corpus de règles qui encadre la façon dont l’entreprise gère l’escalade des capacités potentiellement dangereuses de ses modèles. Le Preparedness Framework couvre toujours les menaces biochimiques, les capacités cyber et les modèles capables d’auto‑amélioration, sous la supervision d’un Safety Advisory Group interne.
À lire aussi : Le Bitcoin confronté à un risque accru de ventes massives après 90 jours de faible demande américaine
Des départs dans la sûreté ravivent les interrogations autour d’OpenAI
La réorganisation intervient dans un contexte de vague inhabituelle de départs au sommet. Le responsable des systèmes de sûreté Johannes Heidecke, la responsable éthique Chloé Bakalar et le « chief futurist » Joshua Achiam ont tous quitté le groupe à quelques semaines d’intervalle. L’équipe de Heidecke a été intégrée à une entité de recherche dirigée par Mia Glaese, vice‑présidente en charge de la R&D et de la sûreté.
Le cofondateur Greg Brockman défend l’idée que l’intégration de la sûreté au cœur des équipes de développement de modèles et de produits renforce ces travaux, plutôt que de les isoler dans un silo séparé. La direction explique aussi vouloir effectuer les contrôles de risques plus en amont, au plus près des ingénieurs qui conçoivent effectivement les systèmes.
Les sceptiques tirent une toute autre conclusion des mêmes faits. Ils soulignent que plus personne en interne n’a désormais un mandat exclusif sur le risque, indépendant du calendrier de lancement de produits et des impératifs commerciaux. Jan Leike, parti en 2024 pour le concurrent Anthropic, a estimé que la sûreté y était reléguée derrière les « produits tape‑à‑l’œil ».
Scandinaro, arrivé d’Anthropic en février
Ce mouvement défait un pari pris par OpenAI il y a seulement six mois, avec des conséquences qui se feront sentir alors que le groupe prépare l’une des plus grosses introductions technologiques en Bourse de ces dernières années.
OpenAI a recruté Dylan Scandinaro chez Anthropic en février pour piloter la Préparation, Sam Altman le présentant alors comme le meilleur profil pour ce poste. Scandinaro alertait déjà sur « des risques d’atteintes extrêmes, voire irréparables ». Il se concentre désormais sur les systèmes capables d’auto‑amélioration récursive, même si l’équipe qu’il devait bâtir autour de lui n’existe plus.
