Anthropic konsultuje się z teologami i etykami, aby kształtować sposób działania swojego chatbota Claude, podczas gdy papież Leon XIV ostrzega, że artificial intelligence threatens ludzką godność.
Kluczowe punkty:
- Anthropic zaprosiło około 15 myślicieli religijnych do swojej siedziby w San Francisco pod koniec marca, aby omówić moralne ramy Claude’a.
- Sesje mają na celu dopracowanie konstytucji Claude’a, czyli spisanego zbioru zasad, które kierują odpowiedziami modelu na pytania użytkowników.
- Pierwsza encyklika papieża Leona XIV, ogłoszona 25 maja, wzywa do rozbrojenia SI i podporządkowania jej ludzkiej godności.
Anthropic angażuje religioznawców
Około 15 myślicieli religijnych met z firmą w jej biurze w San Francisco pod koniec marca. Przybyli, by rozważyć pytanie, które dziś dzieli branżę SI: jak nauczyć chatbota „bycia dobrym”, gdy proste reguły nie obejmują już wszystkich przypadków.
Zaproszenia dotarły różnymi drogami, część e‑mailem, inne przez znajomych znajomych. Każdy z gości dołączył do serii rozmów o Claude’zie i moralnych ramach, które mają kierować jego odpowiedziami. Celem nie było uczynienie modelu pobożnym, lecz sięgnięcie do wieków religijnego namysłu nad tym, co dobre, a co złe.
Ta refleksja zasila to, co Anthropic nazywa konstytucją Claude’a – spisany zbiór zasad, których firma używa do kształtowania odpowiedzi modelu w sprawach od żałoby po opiekę u kresu życia. Firma trenuje Claude’a, aby sam krytykował i poprawiał swoje odpowiedzi w świetle tych zasad, zamiast ślepo podążać za sztywną listą zakazów.
Also Read: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
Eksperci podważają moralne ramy Claude’a
Brian Patrick Green, etyk technologii z Uniwersytetu Santa Clara, stwierdził, że rosnąca władza laboratorium zaczęła przewyższać mądrość, którą dysponuje ono wewnętrznie. Greg Cootsona, który prowadzi grupę doradczą AI and Faith, wspominał, jak pracownicy przyznawali, że pytania stały się zbyt wielkie, by odpowiadać na nie w pojedynkę. Pod koniec kwietnia zorganizowano sesję, która broadened krąg zaproszonych o głosy żydowskie, hinduskie, sikhijskie, mormońskie i greckoprawosławne.
Nie wszyscy uczeni są przekonani, że takie podejście rozwiązuje głębszy problem tego, kto rozlicza te firmy z odpowiedzialności. Carissa Véliz, etyczka z Uniwersytetu Oksfordzkiego, poddała w wątpliwość, czy deklarowane intencje znaczą więcej niż bodźce, które tworzy komercyjny model biznesowy.
Ostrzegła, że religijny język wokół technologii może rodzić plemienną lojalność odporną na trzeźwy rozum. Krytycy określają te działania jako „ethics washing”, czyli próbę zapożyczenia autorytetu moralnego. Green odpowiedział, że każdy pozór zostałby szybko dostrzeżony i byłby trudny do naprawienia.
Papież Leon XIV published swoją pierwszą encyklikę 25 maja – około 40‑tysięczny tekst wzywający do rozbrojenia SI i podporządkowania jej ludzkiej godności. Współzałożyciel Anthropic, Christopher Olah, attended prezentację w Watykanie, będącą kolejnym etapem miesięcy dialogu z przywódcami religijnymi.
Read Next: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft