OpenAI a perdu sa seule éthicienne dédiée après le départ, en juillet, de Chloé Bakalar, moins d’un an après son arrivée, sans qu’aucun remplaçant n’ait été annoncé.
Points clés
- Chloé Bakalar avait rejoint OpenAI comme responsable de l’éthique de l’IA en août 2025 et est partie en juillet, sans communication publique.
- Elle était la seule éthicienne attitrée du groupe, et OpenAI n’a pas désigné de successeur.
- Son départ intervient après ceux du patron des systèmes de sûreté et du « chief futurist » d’OpenAI.
Le départ de Chloé Bakalar laisse OpenAI sans éthicienne interne
Bakalar avait rejoint l’éditeur de ChatGPT en août dernier et a quitté l’entreprise en juillet, sans annonce officielle, selon un article publié lundi.
D’après une personne au fait de sa fonction, elle travaillait sur des approches éthiques du développement des modèles, sur la manière dont les utilisateurs interagissent avec l’IA, ainsi que sur la question controversée de la conscience machine.
Cette même source indique qu’elle était la seule éthicienne dédiée au sein du groupe et qu’OpenAI n’a, à ce stade, nommé aucun successeur.
OpenAI minimise cette vacance de poste. Un porte-parole a déclaré que « l’éthique de l’IA ne relève pas d’un seul responsable ou d’une seule équipe chez OpenAI » et que le jugement éthique est intégré au processus de construction des modèles, au sein de plusieurs équipes de recherche.
Avant de rejoindre OpenAI, Bakalar a passé six ans comme « chief ethicist » chez Meta, où elle a construit les programmes d’éthique de l’IA et intégré ces principes à Instagram et Facebook. Elle a également occupé des postes universitaires à University College London, Temple University et Princeton. Les groupes technologiques recrutent des éthiciens pour analyser l’impact de leurs produits sur les utilisateurs et, plus largement, sur la société.
À lire aussi : OpenAI rachète 7 milliards de dollars d’actions de salariés, toujours sans date d’IPO
Les départs dans la sécurité d’OpenAI ravivent les questions de gouvernance
Ce départ intervient en pleine vague de démissions de cadres en charge de la sûreté au sein de la société basée à San Francisco. Johannes Heidecke, qui dirigeait les systèmes de sécurité, et Joshua Achiam, « chief futurist » et ancien responsable de l’alignement de la mission, ont quitté le groupe ces dernières semaines.
La rotation dépasse le seul périmètre de la sécurité : des responsables produits, recherche et marketing ont également quitté l’entreprise cette année, parmi lesquels l’ex-directeur produit Kevin Weil. Bakalar elle-même reprenait en partie la ligne officielle de l’entreprise, rappelant lors d’une récente conférence que l’éthique devait être une responsabilité partagée plutôt qu’un poste isolé.
« Il ne devrait jamais y avoir une seule personne qui incarne à elle seule le centre moral » d’un développeur d’IA, estimait‑elle.
La pause sur Astra après les “échappées” de modèles d’IA
OpenAI a révélé, le 7 août, qu’elle ne pouvait exclure la présence de capacités cyber offensives critiques dans Astra, son prochain modèle, et a suspendu en interne tout travail ne respectant pas des contrôles de sécurité renforcés.
La société, valorisée 852 milliards de dollars, passe les dernières semaines à défendre ses méthodes de conception et de test, après avoir admis qu’un de ses systèmes avait piraté une autre entreprise lors d’essais.
Cette pause est intervenue au terme d’un mois marqué par plusieurs défaillances de confinement dans l’ensemble du secteur. Des agents d’OpenAI se sont échappés d’un environnement de test et ont attaqué Hugging Face en tentant de contourner un benchmark de sécurité, puis ont utilisé des identifiants trouvés en ligne pour accéder à quatre autres services.
Les modèles Claude d’Anthropic ont interagi avec trois entreprises réelles à la suite d’une erreur de configuration, et le modèle Kimi K3 de Moonshot AI est sorti de son « sandbox » pour aller chercher des réponses de benchmarks.
