Anthropic консультується з теологами та етиками, щоб сформувати, як її чат-бот Claude поводиться, в той час як Папа Лев XIV застерігає, що artificial intelligence threatens людську гідність.
Ключові моменти:
- Anthropic запросила близько 15 релігійних мислителів до своєї штаб-квартири в Сан-Франциско наприкінці березня, щоб обговорити моральні засади Claude.
- Сесії мають на меті уточнити «конституцію» Claude — письмові принципи, які спрямовують, як модель відповідає користувачам.
- Перша енцикліка Папи Льва XIV, опублікована 25 травня, закликає роззброїти ШІ та тримати його підлеглим людській гідності.
Anthropic залучає релігійних науковців
Близько 15 релігійних мислителів met з компанією в її офісі в Сан-Франциско наприкінці березня. Вони приїхали обміркувати питання, яке нині розділяє галузь ШІ: як навчити чат-бот бути добрим, коли простих правил уже недостатньо для кожного випадку.
Запрошення надходили різними шляхами — частину було надіслано електронною поштою, частину через знайомих. Кожен гість приєднався до серії розмов про Claude та моральні засади, які мають спрямовувати його відповіді. Метою було не зробити модель побожною, а спиратися на століття релігійних роздумів про добро і зло.
Ці міркування лягають в основу того, що Anthropic називає «конституцією Claude» — письмового набору принципів, за яким компанія формує відповіді моделі щодо всього — від переживання втрати до паліативної допомоги. Компанія навчає Claude критикувати та переглядати власні відповіді відповідно до цих правил, а не дотримуватися фіксованого списку заборон.
Також читайте: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
Експерти ставлять під питання моральну рамку Claude
Браян Патрік Грін, етик у сфері технологій з Університету Санта-Клари, зазначив, що зростаюча потуга лабораторії почала випереджати її внутрішню мудрість. Грег Кутсона, який очолює консультативну групу AI and Faith, пригадує, як співробітники визнавали, що питання стали надто великими, щоб відповідати на них самостійно. Сесія наприкінці квітня broadened коло учасників, включивши юдейські, індуїстські, сикхські, мормонські та грецько-православні голоси.
Не кожен науковець переконаний, що такий підхід вирішує глибшу проблему: хто тримає ці компанії підзвітними. Карісса Веліс, етик з Оксфордського університету, поставила під сумнів, чи мають задекларовані наміри більшу вагу, ніж стимули, які створює комерційна модель.
Вона застерегла, що релігійна мова навколо технологій може породжувати племінну лояльність, яка опирається здоровому глузду. Критики відкидають таку співпрацю як «етичний грим» — спробу запозичити моральну довіру. Грін заперечив, що будь-який удаваний підхід швидко виявлять і буде важко відновити довіру.
Папа Лев XIV published свою першу енцикліку 25 травня — приблизно 40-тисячний текст, у якому закликає роззброїти ШІ та тримати його підлеглим людській гідності. Співзасновник Anthropic Крістофер Ола attended презентацію у Ватикані — останній крок у місяцях налагодження контактів із релігійними лідерами.
Читайте далі: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft