Un système d’IA aidera à produire une découverte récompensée par un prix Nobel dans les 12 prochains mois, a déclaré cette semaine le cofondateur d’Anthropic, Jack Clark, devant un public de l’université d’Oxford.
Points clés :
- Clark prédit que des chercheurs humains et une IA co‑produiront une découverte de niveau Nobel en moins d’un an, et que des entreprises entièrement gérées par l’IA généreront des millions de revenus d’ici 18 mois.
- Il a averti que cette technologie comporte toujours une probabilité non nulle d’anéantir l’humanité, un risque qu’Anthropic refuse de minimiser.
- D’ici la fin 2028, Clark s’attend à ce que des systèmes d’IA soient capables de concevoir leurs propres successeurs.
Prédictions lors de la conférence d’Oxford
Clark a présenté ce calendrier lors d’une conférence à l’université d’Oxford mercredi, dans des propos reported par The Guardian.
Il a décrit un « vertigineux sentiment de progrès » dans l’ensemble du domaine.
Ses prédictions se sont enchaînées rapidement. Il a said que des robots bipèdes assisteraient les artisans d’ici deux ans, et que des entreprises opérées uniquement par des systèmes d’IA généreraient des millions de dollars de revenus dans les 18 prochains mois.
D’ici la fin 2028, il s’attend à ce que l’IA conçoive ses propres successeurs.
Clark a également maintenu les mises en garde au premier plan. Il a expliqué que des scénarios plausibles subsistaient dans lesquels cette technologie conservait une probabilité non nulle de tuer toute la population de la planète, et il a souligné que ce risque n’avait pas disparu. Il a notamment évoqué Anthropic's restricted Claude Mythos model, qui s’est proved capable d’exploiter des faiblesses en cybersécurité.
À lire aussi : XRP Loses Key Support, Now Eyes A Drop Toward $1.31
Pourquoi l’avertissement de Clark est important
Clark a déclaré qu’il préférerait que l’humanité ralentisse le développement de cette technologie pour gagner du temps, mais il ne s’attend pas à ce que cela se produise. Il a mis en cause une course entre entreprises rivales et entre pays, où les rivalités commerciales et géopolitiques étouffent les préoccupations existentielles.
Anthropic, fondée par des chercheurs ayant quitté OpenAI en raison de désaccords sur la sécurité, a été accused par la Maison‑Blanche de Donald Trump et d’autres « accélérationnistes » d’alimenter la peur afin de favoriser une régulation à son avantage. L’entreprise rejette cette accusation.
Edward Harcourt, directeur de l’Institute for Ethics in AI, qui coorganisait la conférence, a exprimé une inquiétude différente. Il a averti que le fait de confier davantage de tâches aux IA risquait d’entraîner une « atrophie cognitive » susceptible d’affaiblir le jugement humain, et il a plaidé pour des modèles d’IA dits socratiques, qui incitent les gens à faire eux‑mêmes davantage de raisonnement.
Cette prédiction n’est pas la première fois que les dirigeants d’Anthropic avancent des calendriers ambitieux. Le directeur général Dario Amodei a déclaré fin 2024 qu’une IA plus intelligente qu’un lauréat du Nobel dans la plupart des domaines pourrait arriver dès 2026, et Clark lui‑même avait précédemment situé cette étape fin 2026 ou début 2027.
À lire ensuite : Ethereum Network Empties Out As Staking Locks A Record 32% Of Supply