Ein KI-System wird innerhalb von 12 Monaten an einer Entdeckung mitwirken, die einen Nobelpreis gewinnt, sagte Anthropic-Mitgründer Jack Clark diese Woche vor einem Publikum der Universität Oxford.
Zentrale Punkte:
- Clark prognostiziert, dass KI und menschliche Forschende innerhalb eines Jahres gemeinsam eine Nobel-reife Entdeckung machen werden und dass vollständig von KI geführte Unternehmen innerhalb von 18 Monaten Umsätze in Millionenhöhe erzielen.
- Er warnte, dass die Technologie weiterhin eine von null verschiedene Wahrscheinlichkeit birgt, die Menschheit auszulöschen, und bezeichnete dieses Risiko als eines, das Anthropic nicht herunterspielen werde.
- Bis Ende 2028 erwartet Clark KI-Systeme, die in der Lage sind, ihre eigenen Nachfolger zu entwerfen.
Prognosen in der Oxford-Vorlesung
Clark skizzierte den Zeitplan in einer Vorlesung an der Universität Oxford am Mittwoch, in Ausführungen, die von The Guardian reported wurden.
Er sprach von einem „schwindelerregenden Gefühl des Fortschritts“ im gesamten Feld.
Seine Vorhersagen reihten sich schnell aneinander. Er said, dass zweibeinige Roboter innerhalb von zwei Jahren Handwerkerinnen und Handwerkern assistieren würden und dass Unternehmen, die ausschließlich von KI-Systemen betrieben werden, innerhalb von 18 Monaten Umsätze in Millionenhöhe erzielen würden.
Bis Ende 2028 erwartet er, dass KI ihre eigenen Nachfolger entwirft.
Clark stellte die Warnungen ebenfalls in den Vordergrund. Er sagte, es gebe weiterhin plausible Szenarien, in denen die Technologie eine von null verschiedene Chance habe, alle Menschen auf dem Planeten zu töten, und betonte, dass dieses Risiko nicht verschwunden sei. Er verwies auf Anthropic's restricted Claude Mythos model, das sich als proved fähig erwiesen habe, Schwachstellen in der Cybersicherheit auszunutzen.
Auch lesen: XRP Loses Key Support, Now Eyes A Drop Toward $1.31
Warum Clarks Warnung wichtig ist
Clark sagte, er würde es vorziehen, wenn die Menschheit die Entwicklung der Technologie verlangsamen würde, um mehr Zeit zu gewinnen, rechne aber nicht damit. Er machte ein Wettrennen rivalisierender Unternehmen und Staaten verantwortlich, in dem kommerzielle und geopolitische Rivalitäten existenzielle Bedenken übertönen.
Anthropic, gegründet von Forschenden, die OpenAI wegen sicherheitsbezogener Differenzen verließen, wurde von der Trump-Regierung und anderen Beschleunigungsbefürwortern accused, Angstmacherei zu betreiben, um vorteilhafte Regulierung zu fördern. Das Unternehmen weist diesen Vorwurf zurück.
Prof Edward Harcourt, Direktor des Institute for Ethics in AI, das die Vorlesung mitveranstaltete, äußerte eine weitere Sorge. Er warnte, dass ein Mehr an von KIs übernommenen Aufgaben für Menschen ein „kognitives Verkümmern“ riskieren könnte, das das menschliche Urteilsvermögen schwächt, und plädierte für sogenannte sokratische KI-Modelle, die Menschen dazu anhalten, mehr selbst zu denken.
Die Prognose ist nicht das erste Mal, dass Führungspersonen von Anthropic aggressive Zeitpläne nennen. Geschäftsführer Dario Amodei sagte Ende 2024, dass KI, die in den meisten Bereichen klüger ist als ein Nobelpreisträger, bereits 2026 eintreffen könnte, und Clark selbst hat diesen Meilenstein zuvor auf Ende 2026 oder Anfang 2027 datiert.
Als Nächstes lesen: Ethereum Network Empties Out As Staking Locks A Record 32% Of Supply