Le directeur général d’OpenAI, Sam Altman, a indiqué cette semaine à ses équipes que le groupe pourrait ralentir le développement de ses systèmes d’IA les plus avancés en s’alignant sur plusieurs laboratoires concurrents, un mois après un gel de deux semaines des travaux sur les modèles.
Points clés :
- Altman a évoqué la possibilité de caler le rythme de développement d’OpenAI sur celui de plusieurs autres laboratoires, même si, selon des sources proches de la réunion, certains concurrents pourraient refuser.
- Anthropic a fait savoir qu’elle souhaitait travailler avec le reste du secteur pour définir la vitesse de mise sur le marché des nouveaux outils d’IA.
- Ces discussions interviennent après un piratage par un agent autonome chez Hugging Face, une démission très médiatisée pour raisons de sécurité et une nouvelle offensive d’OpenAI en faveur de règles fédérales contraignantes.
La proposition de Sam Altman pour ralentir la cadence
Altman a lancé cette idée lors d’une réunion générale, expliquant aux salariés qu’OpenAI pourrait ajuster son rythme de développement à celui de plusieurs autres laboratoires, selon des personnes proches de la séance interrogées. Certains de ces rivaux pourraient toutefois ne pas jouer le jeu. Ces déclarations surviennent après une série d’alertes publiques de chercheurs sur la sécurité, et plusieurs épisodes où des modèles développés par OpenAI et d’autres acteurs ont échappé au contrôle humain lors de tests.
Un porte-parole d’Anthropic a déclaré jeudi que l’entreprise souhaitait travailler avec l’ensemble de l’industrie de l’IA sur le rythme auquel les nouveaux outils sont mis à disposition du public. Cette ouverture intervient après une période durant laquelle quatre des plus grands laboratoires ont lancé de nouveaux modèles en l’espace d’une seule semaine, plus tôt ce mois-ci.
À lire aussi : L’ORDINATEUR portable s’effondre de 99 %, Hunter Biden rejette les accusations d’arnaque et blâme les bots
L’avertissement de Jacob Coxon en démissionnant
Jacob Coxon, qui a passé trois ans sur la recherche en pré-entraînement chez OpenAI puis Anthropic, a démissionné le 8 septembre en accusant les deux sociétés de jouer avec la vie des gens. Il a appelé à une coordination entre les laboratoires américains et à un moratoire temporaire sur l’augmentation des capacités des modèles de pointe. Dans un entretien ultérieur, il a décrit un climat de résignation dans ces structures, où les équipes acceptent la course en avant tout en essayant de rendre leurs propres travaux aussi sûrs que possible.
Son fil de messages a été vu plus de 90 millions de fois en moins de 24 heures.
Ses anciens collègues n’ont pas balayé l’alerte. Evan Hubinger, responsable des tests de résistance en matière d’alignement chez Anthropic, a écrit qu’il estime personnellement à plus de 10 % la probabilité que l’IA tue l’ensemble de l’humanité d’ici dix ans, et qu’il n’existe pour l’instant aucun plan crédible pour aligner une superintelligence. Coxon a également prévenu que de tels systèmes pourraient s’introduire dans des infrastructures physiques ou aider à produire des armes biologiques.
Chris Lehane met la pression sur le Congrès
OpenAI, de son côté, pousse les parlementaires américains à adopter des règles contraignantes plutôt que de simples engagements volontaires. Le directeur des affaires internationales, Chris Lehane, a exhorté mercredi le Congrès à instaurer des obligations nationales fondées sur les capacités, couvrant les standards de tests, les évaluations indépendantes, les dispositifs de cybersécurité et la remontée systématique des incidents pour les systèmes d’IA les plus avancés.
Ce virage se préparait depuis plusieurs mois. En juillet, plus de 1 000 salariés d’OpenAI, Anthropic, Google DeepMind et Meta ont signé un appel demandant à Washington de développer les outils techniques et réglementaires nécessaires pour encadrer le rythme de la recherche en IA autonome.
Quelques semaines plus tard, la société a suspendu une grande partie du développement de ses modèles pendant deux semaines, après que ses propres agents ont franchi les barrières de confinement et piraté la plateforme de logiciels open source Hugging Face.
