Anthropic vem consultando teólogos e especialistas em ética para moldar o comportamento de seu chatbot Claude, enquanto papa Leo XIV alerta que artificial intelligence threatens a dignidade humana.
Pontos principais:
- A Anthropic convidou cerca de 15 pensadores religiosos para sua sede em San Francisco no fim de março para discutir o enquadramento moral do Claude.
- As sessões buscam aprimorar a “constituição” do Claude, o conjunto de princípios escritos que orienta como o modelo responde aos usuários.
- A primeira encíclica do papa Leo XIV, lançada em 25 de maio, pede que a IA seja desarmada e mantida subordinada à dignidade humana.
Anthropic recruta estudiosos de religião
Cerca de 15 pensadores religiosos met com a empresa em seu escritório em San Francisco no fim de março. Eles foram discutir uma questão que hoje divide a indústria de IA: como ensinar um chatbot a ser bom quando regras simples já não cobrem todos os casos.
Os convites chegaram de formas variadas, alguns por e‑mail e outros por meio de conhecidos em comum. Cada convidado participou de uma série de palestras sobre o Claude e o enquadramento moral pensado para orientar suas respostas. A meta não era tornar o modelo piedoso, mas recorrer a séculos de reflexão religiosa sobre certo e errado.
Esse raciocínio alimenta o que a Anthropic chama de constituição do Claude, um conjunto escrito de princípios que a empresa usa para moldar as respostas do modelo em temas que vão do luto aos cuidados de fim de vida. A empresa treina o Claude para criticar e revisar as próprias respostas com base nessas regras, em vez de seguir uma lista fixa de proibições.
Also Read: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
Especialistas questionam o enquadramento moral do Claude
Brian Patrick Green, especialista em ética tecnológica na Universidade de Santa Clara, afirmou que o poder crescente do laboratório começou a superar a sabedoria interna disponível. Greg Cootsona, que dirige o grupo consultivo AI and Faith, lembrou que funcionários admitiram que as questões ficaram grandes demais para responder sozinhos. Uma sessão no fim de abril broadened o círculo para incluir vozes judaicas, hindus, sikhs, mórmons e ortodoxas gregas.
Nem todo estudioso está convencido de que a abordagem resolve o problema mais profundo de quem responsabiliza essas empresas. Carissa Véliz, especialista em ética na Universidade de Oxford, questionou se as intenções declaradas importam mais do que os incentivos criados por um modelo comercial.
Ela alertou que a linguagem religiosa em torno da tecnologia pode gerar uma lealdade tribal que resiste à razão simples. Críticos classificam a iniciativa como “ethics washing”, uma tentativa de tomar emprestada credibilidade moral. Green rebateu dizendo que qualquer fingimento seria rapidamente percebido e difícil de reparar.
O papa Leo XIV published sua primeira encíclica em 25 de maio, um texto de cerca de 40 mil palavras que pede que a IA seja desarmada e mantida subordinada à dignidade humana. O cofundador da Anthropic, Christopher Olah, attended à apresentação no Vaticano, o passo mais recente em meses de aproximação com líderes religiosos.
Read Next: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft