Een AI-systeem zal binnen 12 maanden helpen bij het tot stand brengen van een ontdekking die een Nobelprijs oplevert, vertelde Anthropic-medeoprichter Jack Clark deze week aan een publiek van de Universiteit van Oxford.
Belangrijkste punten:
- Clark voorspelt dat AI en menselijke onderzoekers binnen een jaar samen een ontdekking op Nobel-niveau zullen doen, en dat volledig door AI gerunde bedrijven binnen 18 maanden miljoenen aan inkomsten zullen genereren.
- Hij waarschuwde dat de technologie nog steeds een niet-nul kans heeft om de mensheid uit te roeien, en noemde dat een risico dat Anthropic weigert te bagatelliseren.
- Tegen eind 2028 verwacht hij AI-systemen die in staat zijn hun eigen opvolgers te ontwerpen.
Voorspellingen tijdens Oxford-lezing
Clark schetste de tijdlijn in een lezing aan de Universiteit van Oxford op woensdag, in opmerkingen die werden gerapporteerd door The Guardian.
Hij sprak van een „duizelingwekkend gevoel van vooruitgang” in het hele vakgebied.
Zijn voorspellingen volgden elkaar snel op. Hij zei dat tweebenige robots binnen twee jaar vakmensen zullen assisteren, en dat bedrijven die uitsluitend door AI-systemen worden bestuurd binnen 18 maanden miljoenen dollars aan inkomsten zullen genereren.
Tegen eind 2028 verwacht hij dat AI zijn eigen opvolgers zal ontwerpen.
Clark hield de waarschuwingen ook nadrukkelijk in beeld. Hij zei dat er nog steeds plausibele scenario’s zijn waarin de technologie een niet-nul kans heeft om iedereen op de planeet te doden, en benadrukte dat dit risico niet verdwenen is. Hij wees daarbij op Anthropic's restricted Claude Mythos model, dat bleek in staat te zijn cybersecurity-zwaktes uit te buiten.
Ook lezen: XRP Loses Key Support, Now Eyes A Drop Toward $1.31
Waarom Clarks waarschuwing ertoe doet
Clark zei dat hij liever zou zien dat de mensheid de ontwikkeling van de technologie afremt om meer tijd te winnen, maar hij verwacht niet dat dit zal gebeuren. Hij gaf de schuld aan een wedloop tussen rivaliserende bedrijven en landen, waarbij commerciële en geopolitieke rivaliteit existentiële zorgen overstemt.
Anthropic, opgericht door onderzoekers die OpenAI verlieten vanwege meningsverschillen over veiligheid, is door het Witte Huis-Trump en andere ‘accelerationisten’ beschuldigd van paniekzaaierij om gunstige regulering af te dwingen. Het bedrijf wijst die beschuldiging van de hand.
Prof Edward Harcourt, directeur van het Institute for Ethics in AI, dat de lezing mede organiseerde, uitte een andere zorg. Hij waarschuwde dat het risico bestaat dat meer taken door AI’s leiden tot „cognitieve atrofie” die het menselijk oordeelsvermogen kan verzwakken, en hij pleitte voor zogenoemde Sokratische AI-modellen die mensen juist aansporen zelf meer denkwerk te doen.
De voorspelling is niet de eerste keer dat leiders van Anthropic agressieve tijdlijnen schetsen. Topman Dario Amodei zei eind 2024 dat AI die slimmer is dan een Nobelprijswinnaar in de meeste vakgebieden al in 2026 zou kunnen arriveren, en Clark zelf heeft die mijlpaal eerder eind 2026 of begin 2027 geplaatst.
Lees ook: Ethereum Network Empties Out As Staking Locks A Record 32% Of Supply