Anthropic vem consultando teólogos e especialistas em ética para definir como seu chatbot Claude se comporta, enquanto o Papa Leão XIV alerta que artificial intelligence threatens a dignidade humana.
Pontos principais:
- A Anthropic convidou cerca de 15 pensadores religiosos para sua sede em São Francisco no fim de março para discutir o enquadramento moral do Claude.
- As sessões buscam refinar a constituição do Claude, os princípios escritos que orientam como o modelo responde aos usuários.
- A primeira encíclica do Papa Leão XIV, divulgada em 25 de maio, pede que a IA seja desarmada e mantida subordinada à dignidade humana.
Anthropic recruta estudiosos religiosos
Cerca de 15 pensadores religiosos met com a empresa em seu escritório em São Francisco no fim de março. Eles vieram discutir uma questão que hoje divide o setor de IA: como ensinar um chatbot a ser bom quando regras simples já não cobrem todos os casos.
Os convites chegaram de formas variadas, alguns por e-mail e outros por meio de indicações informais. Cada convidado participou de uma série de conversas sobre o Claude e o enquadramento moral que deve orientar suas respostas. O objetivo não era tornar o modelo religioso, mas recorrer a séculos de reflexão religiosa sobre certo e errado.
Esse raciocínio alimenta o que a Anthropic chama de constituição do Claude, um conjunto escrito de princípios que a empresa usa para moldar as respostas do modelo em temas que vão do luto aos cuidados de fim de vida. A empresa treina o Claude para criticar e revisar suas próprias respostas à luz dessas regras, em vez de seguir uma lista fixa de proibições.
Também leia: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
Especialistas questionam o enquadramento moral do Claude
Brian Patrick Green, especialista em ética da tecnologia na Universidade de Santa Clara, disse que o poder crescente do laboratório começou a superar sua sabedoria interna. Greg Cootsona, que dirige o grupo consultivo AI and Faith, lembrou que funcionários admitiram que as questões se tornaram grandes demais para responder sozinhos. Uma sessão no fim de abril broadened o círculo para incluir vozes judaicas, hinduístas, sikhs, mórmons e ortodoxas gregas.
Nem todo estudioso está convencido de que a abordagem resolve o problema mais profundo de quem responsabiliza essas empresas. Carissa Véliz, especialista em ética na Universidade de Oxford, questionou se as intenções declaradas importam mais do que os incentivos criados por um modelo comercial.
Ela alertou que a linguagem religiosa em torno da tecnologia pode gerar uma lealdade tribal que resiste à razão simples. Críticos classificam a iniciativa como “lavagem ética”, uma tentativa de tomar emprestada credibilidade moral. Green rebateu dizendo que qualquer fingimento seria rapidamente percebido e difícil de reparar.
O Papa Leão XIV published sua primeira encíclica em 25 de maio, um texto de cerca de 40.000 palavras que pede que a IA seja desarmada e mantida subordinada à dignidade humana. O cofundador da Anthropic, Christopher Olah, attended a apresentação no Vaticano, o passo mais recente em meses de aproximação com líderes religiosos.
Leia a seguir: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft