Były inżynier ds. bezpieczeństwa w Google DeepMind, Bilal Chughtai, ostrzega, że sztuczna inteligencja w skrajnym scenariuszu może doprowadzić do zagłady ludzkości. Inny były badacz tego laboratorium przewiduje poważne szkody w horyzoncie do pięciu lat.
Najważniejsze ustalenia
- Chughtai odszedł z DeepMind w lipcu i twierdzi, że superinteligencja może pojawić się w ciągu najbliższych kilku lat.
- Jego zdaniem badania nad alignementem wyraźnie nie nadążają za wzrostem możliwości modeli. Opowiada się za skoordynowanym spowolnieniem, a nie całkowitym wstrzymaniem rozwoju AI.
- Były badacz DeepMind Josh Engels dostrzega ryzyko ogromnych szkód w ciągu pięciu lat, a osoby związane z Anthropic i OpenAI popierają wezwania do ostrożniejszego tempa rozwoju.
Ostrzeżenie Chughtaia
Chughtai, były inżynier badawczy skupiający się na bezpieczeństwie i alignemencie sztucznej inteligencji ogólnej, odszedł z DeepMind w lipcu i w tym tygodniu upublicznił swoje ostrzeżenie.
Jego zdaniem laboratoria AI mogą w ciągu kilku najbliższych lat zbudować systemy superinteligentne – przewyższające człowieka w zasadzie we wszystkich dziedzinach, a jednocześnie wyjątkowo trudne do dostosowania do ludzkich celów.
Kluczowym wyzwaniem jest, według niego, alignement. „Szczerze wierzę, że AI ma potencjał, by nas wszystkich zabić, i że możemy mieć coraz mniej czasu, by uniknąć takiego finału” – napisał.
Uważa, że obecne metody trenowania zaawansowanych systemów tak, by w sposób niezawodny realizowały ludzkie cele, są „skrajnie prymitywne”, podczas gdy możliwości modeli granicznych rosną znacznie szybciej niż zrozumienie problemów z alignementem. Nie postuluje jednak zatrzymania rozwoju AI. Zamiast tego apeluje, by firmy skoordynowały działania, spowolniły wyścig po przewagę i zapewniły większą przejrzystość co do sposobu budowy i testowania systemów z najwyższej półki.
Zobacz także: Ustawa CLARITY staje przed wymogiem 60 głosów w Senacie w obliczu rosnącej opozycji
Inicjatywy bezpieczeństwa w Anthropic
Ostrzeżenie Chughtaia pojawia się po rezygnacji Jacoba Coxona na początku miesiąca, po trzech latach pracy w Anthropic i OpenAI. Szef działu nauki o alignemencie w Anthropic, Evan Hubinger, stwierdził następnie, że jego zdaniem istnieje ponad 10% szans, że AI może zabić całą ludzkość w perspektywie kolejnej dekady.
Engels, który również pracował w zespole bezpieczeństwa DeepMind, poinformował 12 września, że dołączył do organizacji non-profit METR, zajmującej się ewaluacją systemów AI, po odrzuceniu ofert Anthropic i OpenAI. Jako powód wskazał „przerażające prawdopodobieństwo” ogromnych szkód spowodowanych przez AI w ciągu pięciu lat.
Dyrektor generalny Anthropic, Dario Amodei, wezwał firmy do wyhamowania przyrostu możliwości modeli. Zbliżone stanowisko zajął szef OpenAI, Sam Altman, co pokazuje, że debata rozszerza się na czołowe laboratoria. Zbieżność opinii ma znaczenie, ponieważ ostrzeżenia płyną dziś zarówno od odchodzących specjalistów ds. bezpieczeństwa, jak i od samych liderów największych podmiotów w branży.
Obecna fala alarmów następuje po gwałtownej zmianie od początku 2022 r., kiedy Chughtai rozpoczynał pracę przy AI i ocenia systemy jako znacznie mniej zaawansowane niż dzisiejsze modele graniczne. W ciągu zaledwie kilku lat dyskusja przesunęła się z poziomu teorii długoterminowego bezpieczeństwa w stronę bardzo konkretnych obaw: o autonomię systemów, alignement oraz to, czy badania nad bezpieczeństwem są w stanie nadążyć za tempem wzrostu ich możliwości.
Czytaj dalej: API Bitget obejmuje już złoto, forex, indeksy oraz ropę naftową
