Anthropic は、ローマ教皇レオ14世 が人工知能が人間の尊厳を脅かすと警告するなか、チャットボットClaudeの振る舞いを形作るために神学者や倫理学者に助言を求めている。
主なポイント
- Anthropicは3月下旬、約15人の宗教思想家をサンフランシスコ本社に招き、Claudeの道徳的枠組みについて議論した。
- これらのセッションは、ユーザーへの応答の仕方を方向付ける「憲法」と呼ばれる原則文書を洗練させることを目的としている。
- 5月25日に公表されたローマ教皇レオ14世の最初の回勅は、AIを「武装解除」し、人間の尊厳に従属させるべきだと訴えている。
Anthropic、宗教学者を招聘
およそ15人の宗教思想家たちが3月下旬、サンフランシスコのオフィスで同社と面会した。彼らが検討したのは、単純なルールではすべての事例を網羅できなくなった今、どのようにして「善くある」チャットボットを育てるかという、AI業界を二分しつつある問いだ。
招待はばらばらの経路で届いた。メールで届いた者もいれば、友人の友人づてに声がかかった者もいる。各参加者は、Claudeと、その回答の指針となる道徳的枠組みをめぐる一連の講話に加わった。目的はモデルを敬虔な存在にすることではなく、何が正しく何が間違っているかについて、宗教が何世紀にもわたって蓄積してきた思索を活用することだった。
そうした思索は、AnthropicがClaudeの「憲法」と呼ぶ文書、すなわち、悲嘆から終末期医療に至るまであらゆるテーマにおけるモデルの応答を形作るための原則集に取り込まれる。同社は、固定的な禁止事項リストに従わせるのではなく、その原則に照らして自分の回答を批判・修正するようClaudeを訓練している。
関連記事: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
専門家はClaudeの道徳的枠組みに疑問も
サンタクララ大学のテクノロジー倫理学者 Brian Patrick Green は、研究所の増大する力が社内の知恵を上回り始めていると語る。助言グループ「AI and Faith」を率いる Greg Cootsona は、スタッフが「自分たちだけでは答えきれないほど問いが大きくなった」と認めていたと振り返る。4月下旬のセッションでは、ユダヤ教、ヒンドゥー教、シク教、モルモン教、ギリシャ正教の声も含めるべく輪が広げられた。
しかし、このアプローチが、より根本的な「誰が企業を監督するのか」という問題を解決していると考える学者ばかりではない。オックスフォード大学の倫理学者 Carissa Véliz は、表向きの意図よりも、営利目的のモデルが生み出すインセンティブの方が重いのではないかと疑問を呈した。
彼女はまた、テクノロジーをめぐる宗教的言葉遣いが、素朴な理性に抵抗する部族的忠誠心を生みかねないと警告する。批判者たちは、こうした取り組みを、道徳的な信用を借りるための「エシックス・ウォッシング」だと一蹴する。これに対しGreenは、もし見せかけだけであればすぐに見抜かれ、信頼の回復は困難になるだろうと反論する。
ローマ教皇レオ14世は5月25日、AIを「武装解除」し、人間の尊厳に従属させることを求める、およそ4万語の最初の回勅を公表した。Anthropicの共同創業者 Christopher Olah は、そのバチカンでの発表会に出席し、宗教指導者への数カ月にわたる働きかけの最新の一歩となった。
次に読む: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft