Un système d’IA contribuera à produire une découverte récompensée par un prix Nobel dans les 12 prochains mois, a déclaré cette semaine le cofondateur d’Anthropic, Jack Clark, devant un auditoire de l’Université d’Oxford.
Points clés :
- Clark prévoit que des chercheurs humains et l’IA co‑produiront une découverte de niveau Nobel d’ici un an, avec des entreprises entièrement gérées par l’IA générant des millions de revenus en moins de 18 mois.
- Il a averti que la technologie comporte toujours une probabilité non nulle d’anéantir l’humanité, qualifiant ce risque de menace qu’Anthropic refuse de minimiser.
- D’ici fin 2028, Clark s’attend à ce que des systèmes d’IA soient capables de concevoir leurs propres successeurs.
Prédictions lors de la conférence à Oxford
Clark a présenté ce calendrier lors d’un cours magistral à l’Université d’Oxford mercredi, dans des propos reported par The Guardian.
Il a décrit un « vertigineux sentiment de progrès » dans l’ensemble du domaine.
Ses prévisions se sont enchaînées rapidement. Il a said que des robots bipèdes assisteraient les artisans d’ici deux ans, et que des entreprises entièrement pilotées par des systèmes d’IA généreraient des millions de dollars de revenus en moins de 18 mois.
D’ici la fin de 2028, il s’attend à ce que l’IA conçoive ses propres successeurs.
Clark a également maintenu les avertissements au premier plan. Il a expliqué que des scénarios plausibles laissaient subsister une probabilité non nulle que la technologie tue tous les habitants de la planète, et a insisté sur le fait que ce risque n’avait pas disparu. Il a cité Anthropic's restricted Claude Mythos model, qui s’est proved capable d’exploiter des faiblesses en cybersécurité.
À lire aussi : XRP Loses Key Support, Now Eyes A Drop Toward $1.31
Pourquoi l’avertissement de Clark compte
Clark a déclaré qu’il préférerait que l’humanité ralentisse le développement de la technologie afin de gagner du temps, mais qu’il ne s’attend pas à ce que cela se produise. Il a imputé cette situation à une course entre entreprises et pays rivaux où les enjeux commerciaux et géopolitiques étouffent les préoccupations existentielles.
Anthropic, fondée par des chercheurs ayant quitté OpenAI pour des désaccords sur la sécurité, a été accused par la Maison‑Blanche de Trump et d’autres partisans de l’accélération de dramatiser les risques afin de favoriser une régulation avantageuse. L’entreprise rejette cette accusation.
Le professeur Edward Harcourt, directeur de l’Institute for Ethics in AI, qui coorganisait la conférence, a soulevé une autre inquiétude. Il a averti que le fait que les IA fassent davantage pour les humains risquait d’entraîner une « atrophie cognitive » pouvant affaiblir le jugement humain, et il a plaidé pour des modèles d’IA dits socratiques, qui incitent les gens à faire eux‑mêmes davantage de réflexion.
Cette prédiction n’est pas la première fois que les dirigeants d’Anthropic avancent des calendriers ambitieux. Le directeur général Dario Amodei a déclaré fin 2024 qu’une IA plus intelligente qu’un lauréat du prix Nobel dans la plupart des domaines pourrait émerger dès 2026, et Clark lui‑même a déjà situé ce jalon à fin 2026 ou début 2027.
À lire ensuite : Ethereum Network Empties Out As Staking Locks A Record 32% Of Supply