Anthropic консультируется с теологами и этиками, чтобы сформировать, как ведёт себя её чат-бот Claude, в то время как Папа Лев XIV предупреждает, что artificial intelligence threatens человеческое достоинство.
Ключевые моменты:
- Anthropic пригласила около 15 религиозных мыслителей в свою штаб-квартиру в Сан‑Франциско в конце марта, чтобы обсудить моральные основы Claude.
- Сессии нацелены на уточнение «конституции» Claude — письменных принципов, которые направляют ответы модели пользователям.
- Первая энциклика Папы Льва XIV, опубликованная 25 мая, призывает разоружить ИИ и подчинить его человеческому достоинству.
Anthropic привлекает религиозных учёных
Около 15 религиозных мыслителей met с компанией в её офисе в Сан‑Франциско в конце марта. Они приехали обсудить вопрос, который сейчас раскалывает индустрию ИИ: как научить чат-бота быть «хорошим», когда простых правил уже не хватает на каждый случай.
Приглашения приходили по‑разному: часть по электронной почте, часть — через знакомых. Каждый гость присоединился к серии обсуждений о Claude и о моральной рамке, которая должна направлять его ответы. Цель заключалась не в том, чтобы сделать модель благочестивой, а в том, чтобы опереться на многовековой религиозный опыт размышлений о добре и зле.
Эти размышления питают то, что Anthropic называет «конституцией Claude» — письменным набором принципов, с помощью которых компания формирует ответы модели на всё: от переживания горя до ухода из жизни. Компанию обучают Claude критиковать и пересматривать собственные ответы в соответствии с этими правилами, а не следовать жёсткому списку запретов.
Также читайте: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
Эксперты ставят под вопрос моральную рамку Claude
Брайан Патрик Грин, специалист по этике технологий из Университета Санта‑Клары, отметил, что растущая власть лаборатории начала превосходить её внутреннюю мудрость. Грег Кутсона, возглавляющий консультативную группу AI and Faith, вспоминал, как сотрудники признавали, что вопросы стали слишком масштабными, чтобы отвечать на них в одиночку. Сессия в конце апреля broadened круг участников, включив голоса иудаизма, индуизма, сикхизма, мормонов и греко‑православной традиции.
Не каждый учёный убеждён, что такой подход решает более глубокую проблему — кто держит эти компании подотчётными. Этик из Оксфордского университета Карисса Велиз усомнилась, важнее ли декларируемые намерения тех стимулов, которые создаёт коммерческая модель.
Она предупредила, что религиозный язык вокруг технологий может порождать племенную лояльность, сопротивляющуюся здравому смыслу. Критики отмахиваются от подобных инициатив как от «отмывания этикой» — попытки заимствовать моральный авторитет. Грин возразил, что любую фальшь быстро заметят, и её будет трудно исправить.
Папа Лев XIV published свою первую энциклику 25 мая — примерно 40‑тысячесловный текст, призывающий разоружить ИИ и подчинить его человеческому достоинству. Со‑основатель Anthropic Кристофер Ола attended её презентацию в Ватикане — это последний шаг в серии многомесячных контактов с религиозными лидерами.
Читайте далее: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft