System SI pomoże doprowadzić do odkrycia nagrodzonego Nagrodą Nobla w ciągu 12 miesięcy, powiedział w tym tygodniu współzałożyciel Anthropic Jack Clark podczas wystąpienia na Uniwersytecie Oksfordzkim.
Kluczowe punkty:
- Clark przewiduje, że badacze wykorzystujący SI wraz z ludźmi współtworzą odkrycie na miarę Nagrody Nobla w ciągu roku, a firmy prowadzone w całości przez SI zaczną generować milionowe przychody w ciągu 18 miesięcy.
- Ostrzegł, że technologia wciąż wiąże się z niezerowym ryzykiem zgładzenia ludzkości, nazywając to zagrożenie takim, którego Anthropic nie zamierza bagatelizować.
- Do końca 2028 r. Clark spodziewa się systemów SI zdolnych projektować własnych następców.
Prognozy z wykładu w Oksfordzie
Clark przedstawił tę oś czasu podczas wykładu na Uniwersytecie Oksfordzkim w środę, w komentarzach reported by The Guardian.
Opisał „zawrojne poczucie postępu” w całej dziedzinie.
Jego prognozy następowały szybko jedna po drugiej. He said bipedal robots would assist tradespeople within two years, and that companies operated solely by AI systems would generate millions of dollars in revenue within 18 months.
Do końca 2028 r. spodziewa się, że SI będzie projektować własnych następców.
Clark jednocześnie mocno podkreślał ostrzeżenia. Powiedział, że wciąż istnieją wiarygodne scenariusze, w których technologia niesie niezerowe ryzyko zabicia wszystkich ludzi na planecie, i zaznaczył, że to ryzyko nie zniknęło. Wskazał na Anthropic's restricted Claude Mythos model, który proved capable of exploiting cybersecurity weaknesses.
Also Read: XRP Loses Key Support, Now Eyes A Drop Toward $1.31
Dlaczego ostrzeżenie Clarka ma znaczenie
Clark powiedział, że wolałby, aby ludzkość spowolniła rozwój tej technologii, by zyskać więcej czasu, lecz nie spodziewa się, by tak się stało. Obwinił o to wyścig pomiędzy konkurującymi firmami i państwami, w którym rywalizacja komercyjna i geopolityczna zagłusza egzystencjalne obawy.
Anthropic, założona przez badaczy, którzy odeszli z OpenAI z powodu sporów o bezpieczeństwo, została accused by the Trump White House and other accelerationists of fear-mongering to encourage favorable regulation. Firma odrzuca te zarzuty.
Prof Edward Harcourt, dyrektor Institute for Ethics in AI, który współorganizował wykład, podniósł odrębny problem. Ostrzegł, że im więcej SI robi za ludzi, tym bardziej grozi nam „atrofia poznawcza”, mogąca osłabić ludzką zdolność osądu, i opowiedział się za tak zwanymi sokratejskimi modelami SI, które skłaniają ludzi, by więcej myśleli samodzielnie.
Przewidywanie to nie pierwszy raz, gdy liderzy Anthropic wyznaczają agresywne harmonogramy. Dyrektor generalny Dario Amodei powiedział pod koniec 2024 r., że SI mądrzejsza od laureata Nobla w większości dziedzin może pojawić się już w 2026 r., a sam Clark wcześniej lokował ten kamień milowy na koniec 2026 lub początek 2027 r.
Read Next: Ethereum Network Empties Out As Staking Locks A Record 32% Of Supply