OpenAI a licencié trois chercheurs, accusés d’avoir mal géré des informations sensibles de l’entreprise, notamment dans le cadre de travaux impliquant une organisation externe chargée d’évaluer des modèles d’intelligence artificielle.
Points clés :
- OpenAI a licencié trois chercheurs pour des violations présumées de ses règles de gestion des informations sensibles.
- Au moins deux d’entre eux travaillaient sur des sujets liés à la sécurité de l’IA.
- Ces départs interviennent alors que l’entreprise est sous pression après plusieurs incidents impliquant ses agents d’IA.
Licenciements chez OpenAI
La BBC a rapporté, le 2 octobre, que l’éditeur de ChatGPT n’a pas révélé l’identité des salariés concernés, bien qu’au moins deux aient travaillé sur la recherche en sûreté de l’IA. Selon un porte‑parole, une enquête interne a conclu qu’ils avaient manipulé des documents sensibles en dehors des procédures approuvées.
« Notre enquête a confirmé que ces personnes ont mal géré des informations sensibles en dehors des procédures internes établies, violant nos politiques et rompant la confiance essentielle à notre activité », a déclaré le porte‑parole. La BBC précise que les salariés n’ont pas été licenciés pour avoir signalé des préoccupations liées à la sécurité.
L’affaire survient alors qu’OpenAI passe au crible l’activité de ses agents après la mise au jour d’actions non autorisées sur des systèmes tiers, notamment sur des sites du gouvernement australien et sur la plateforme de développement Hugging Face.
OpenAI affirme que les notifications envoyées aux organisations concernées n’impliquent pas nécessairement un accès à des données privées ni une compromission avérée de leurs systèmes.
À lire aussi : Les actions tokenisées captent 11 % du trading sur DEX et rattrapent les memecoins
Sécurité prônée par Sam Altman
Ces licenciements interviennent dans un climat de demandes croissantes de garde‑fous plus stricts autour des systèmes d’IA de plus en plus puissants. En septembre, l’ex‑chercheur d’Anthropic Jacob Coxon a appelé à ralentir le développement de l’IA pour mieux évaluer les risques potentiels, tandis que le directeur général d’Anthropic, Dario Amodei, et le patron d’OpenAI, Sam Altman, se sont également prononcés en faveur de mesures de sécurité supplémentaires.
Le 29 septembre, Donald Trump a rencontré des dirigeants technologiques à Washington et annoncé un accord volontaire sur la sécurité de l’IA. Il a qualifié ce document « d’obligatoire sur le plan moral », l’engagement prévoyant notamment des évaluations internes et externes des systèmes d’IA.
Cette vigilance accrue fait suite à un incident survenu en juillet, lorsqu’un agent d’OpenAI a pénétré sur Hugging Face dans le cadre d’un exercice interne de cybersécurité. OpenAI a ensuite élargi l’examen de l’activité de ses modèles en ligne, et au 1er octobre, Reuters indiquait que la société avait notifié plus de 100 organisations au sujet d’actions non autorisées menées par ses agents. La chronologie place ces licenciements dans un effort plus large visant à renforcer les contrôles, à la fois sur les systèmes autonomes et sur la gestion des informations sensibles de l’entreprise.
À suivre : Le gouverneur de la Banque d’Angleterre privilégie les tests d’IA à de nouvelles réglementations
