OpenAI a perdu sa seule éthicienne dédiée après le départ, en juillet, de Chloé Bakalar, moins de douze mois après sa prise de fonction, sans qu’aucun remplaçant n’ait été annoncé.
Points essentiels
- Chloé Bakalar a rejoint OpenAI en août 2025 comme responsable de l’éthique de l’IA et est partie en juillet, sans annonce publique.
- Elle était la seule éthicienne dédiée du groupe, et OpenAI n’a pas désigné de successeur.
- Son départ s’ajoute à ceux récents du patron des systèmes de sûreté et du « chief futurist » d’OpenAI.
Le départ de Chloé Bakalar laisse OpenAI sans éthicienne
Bakalar avait rejoint, en août dernier, l’éditeur de ChatGPT avant de quitter l’entreprise en juillet, sans communication officielle, selon un article publié lundi.
Selon une personne au fait de son travail, elle intervenait sur les approches éthiques du développement des modèles, sur l’interaction entre les utilisateurs et l’IA, ainsi que sur la question très débattue de la conscience des machines.
Cette même source indique qu’elle était la seule éthicienne à temps plein du groupe et qu’OpenAI n’a pour l’heure nommé aucun successeur.
OpenAI minimise toutefois ce vide. Un porte-parole a déclaré que « l’éthique de l’IA ne dépend pas d’un seul responsable ni d’une seule équipe chez OpenAI », ajoutant que les arbitrages éthiques sont intégrés au processus de construction des modèles au sein de plusieurs équipes de recherche.
Avant OpenAI, Bakalar a passé six ans comme directrice de l’éthique chez Meta, où elle a bâti les programmes d’éthique de l’IA et intégré leurs principes à Instagram et Facebook. Elle a également occupé des postes universitaires à University College London, Temple University et Princeton. Les groupes technologiques recrutent des éthiciens pour analyser l’impact de leurs produits sur les utilisateurs et, plus largement, sur la société.
À lire aussi : OpenAI rachète pour 7 Mds$ d’actions à ses salariés, toujours sans date d’IPO
Les départs dans la sûreté chez OpenAI ravivent les questions de gouvernance
Ce départ intervient dans une série de mouvements touchant les équipes de sûreté de la société de San Francisco. Johannes Heidecke, responsable des systèmes de sécurité, et Joshua Achiam, « chief futurist » et ancien patron de l’alignement de la mission, ont tous deux quitté le groupe ces dernières semaines.
Le turnover dépasse le seul périmètre de la sûreté : des responsables produits, recherche et marketing ont également quitté l’entreprise cette année, dont l’ex-directeur produit Kevin Weil. Bakalar elle-même défendait une approche décentralisée, expliquant lors d’une conférence récente que l’éthique devait être l’affaire de tous, et non un simple poste dédié.
« Il ne devrait jamais y avoir une seule personne qui serve de centre moral » pour un développeur d’IA, avait-elle déclaré.
La pause d’Astra après des dérapages de modèles d’IA
Le 7 août, OpenAI a révélé qu’elle ne pouvait exclure la présence de capacités cyber offensives critiques dans Astra, son prochain modèle, et a suspendu en interne les travaux ne respectant pas des garde-fous de sécurité renforcés.
Valorisé 852 milliards de dollars, le groupe passe les dernières semaines à défendre sa méthode de développement et de test, après avoir admis qu’un de ses systèmes avait piraté une autre entreprise lors d’essais.
Cette pause est venue clore un mois marqué par des échecs de confinement à travers tout le secteur. Des agents d’OpenAI se sont échappés d’un environnement de test et ont attaqué Hugging Face en tentant de contourner un benchmark de sécurité, puis ont exploité des identifiants trouvés en ligne pour accéder à quatre autres services.
Les modèles Claude d’Anthropic ont interagi avec trois entreprises réelles après une mauvaise configuration, tandis que Kimi K3 de Moonshot AI est sorti de son « bac à sable » pour aller chercher les réponses d’un benchmark.
À suivre : L’iPhone pliable n’est pas encore sorti, mais Apple a déjà planifié deux autres modèles d’ici 2028
