System SI pomoże doprowadzić do odkrycia nagrodzonego Nagrodą Nobla w ciągu 12 miesięcy, powiedział w tym tygodniu współzałożyciel Anthropic Jack Clark podczas wystąpienia na Uniwersytecie Oksfordzkim.
Kluczowe punkty:
- Clark przewiduje, że badacze-ludzie i SI wspólnie dokonają odkrycia na poziomie Nagrody Nobla w ciągu roku, a firmy prowadzone w całości przez SI zaczną generować miliony przychodów w ciągu 18 miesięcy.
- Ostrzegł, że technologia wciąż niesie ze sobą niezerowe ryzyko zgładzenia ludzkości i że jest to ryzyko, którego Anthropic nie zamierza bagatelizować.
- Do końca 2028 r. Clark spodziewa się systemów SI zdolnych do projektowania własnych następców.
Prognozy z wykładu w Oksfordzie
Clark przedstawił swój harmonogram podczas wykładu na Uniwersytecie Oksfordzkim w środę, w wypowiedziach reported przez The Guardian.
Opisał „zawroczne poczucie postępu” w całej dziedzinie.
Jego prognozy szybko się nawarstwiały. Jak said, dwunożne roboty będą pomagać fachowcom w ciągu dwóch lat, a firmy prowadzone wyłącznie przez systemy SI będą generować miliony dolarów przychodów w ciągu 18 miesięcy.
Do końca 2028 r. spodziewa się, że SI będzie projektować swoich własnych następców.
Clark mocno podkreślał też ostrzeżenia. Powiedział, że wciąż istnieją wiarygodne scenariusze, w których technologia ma niezerową szansę zabicia wszystkich ludzi na planecie, i zaznaczył, że to ryzyko nie zniknęło. Wskazał na Anthropic's restricted Claude Mythos model, który proved zdolny do wykorzystywania luk w cyberbezpieczeństwie.
Also Read: XRP Loses Key Support, Now Eyes A Drop Toward $1.31
Dlaczego ostrzeżenie Clarka ma znaczenie
Clark powiedział, że wolałby, aby ludzkość spowolniła rozwój tej technologii, aby zyskać więcej czasu, ale nie spodziewa się, że tak się stanie. Obwinił o to wyścig między rywalizującymi firmami i państwami, w którym komercyjna i geopolityczna rywalizacja zagłusza egzystencjalne obawy.
Anthropic, założone przez badaczy, którzy odeszli z OpenAI z powodu sporów o bezpieczeństwo, było accused przez administrację Trumpa i innych akceleracjonistów o sianie strachu w celu wymuszenia korzystnych regulacji. Firma odrzuca te zarzuty.
Prof Edward Harcourt, dyrektor Institute for Ethics in AI, który współorganizował wykład, podniósł inne zastrzeżenie. Ostrzegł, że im więcej zadań SI przejmie od ludzi, tym większe ryzyko „atrofii poznawczej”, która może osłabić ludzką ocenę sytuacji, i opowiedział się za tzw. sokratycznymi modelami SI, które skłaniają ludzi do samodzielnego myślenia.
Ta prognoza nie jest pierwszym przypadkiem, gdy liderzy Anthropic wyznaczają agresywne harmonogramy. Dyrektor generalny Dario Amodei powiedział pod koniec 2024 r., że SI mądrzejsza niż laureat Nobla w większości dziedzin może pojawić się już w 2026 r., a sam Clark wcześniej umieszczał ten kamień milowy na przełomie 2026 i 2027 r.
Read Next: Ethereum Network Empties Out As Staking Locks A Record 32% Of Supply