Anthropic ha estado consultando a teólogos y éticos para moldear cómo se comporta su chatbot Claude, mientras el papa León XIV advierte que artificial intelligence threatens la dignidad humana.
Puntos clave:
- Anthropic invitó a unos 15 pensadores religiosos a su sede de San Francisco a finales de marzo para debatir el marco moral de Claude.
- Las sesiones tienen como objetivo perfeccionar la constitución de Claude, los principios escritos que orientan cómo responde el modelo a los usuarios.
- La primera encíclica del papa León XIV, publicada el 25 de mayo, insta a que la IA sea desarmada y mantenida subordinada a la dignidad humana.
Anthropic recluta a académicos religiosos
Unos 15 pensadores religiosos met con la empresa en su oficina de San Francisco a finales de marzo. Acudieron para sopesar una cuestión que ahora divide a la industria de la IA: cómo enseñar a un chatbot a ser bueno cuando las reglas simples ya no cubren todos los casos.
Las invitaciones llegaron de formas variadas, algunas por correo electrónico y otras a través de un amigo de un amigo. Cada invitado se unió a una serie de charlas sobre Claude y el marco moral destinado a guiar cómo responde. El objetivo no era volver piadoso al modelo, sino recurrir a siglos de reflexión religiosa sobre el bien y el mal.
Ese razonamiento alimenta lo que Anthropic llama la constitución de Claude, un conjunto escrito de principios que la empresa utiliza para dar forma a las respuestas del modelo en todo, desde el duelo hasta los cuidados al final de la vida. La empresa entrena a Claude para que critique y revise sus propias respuestas según esas reglas, en lugar de seguir una lista fija de prohibiciones.
También lee: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
Expertos cuestionan el marco moral de Claude
Brian Patrick Green, un ético de la tecnología en la Universidad de Santa Clara, afirmó que el creciente poder del laboratorio había comenzado a superar su sabiduría interna. Greg Cootsona, que dirige el grupo asesor AI and Faith, recordó que el personal reconoció que las preguntas se habían vuelto demasiado grandes para responderlas en solitario. Una sesión a finales de abril broadened el círculo para incluir voces judías, hindúes, sij, mormonas y ortodoxas griegas.
No todos los académicos están convencidos de que el enfoque solucione el problema más profundo de quién hace rendir cuentas a estas empresas. Carissa Véliz, ética de la Universidad de Oxford, cuestionó si las intenciones declaradas importan más que los incentivos que crea un modelo comercial.
Advirtió que el lenguaje religioso en torno a la tecnología puede generar una lealtad tribal que se resiste a la razón sencilla. Los críticos desestiman la iniciativa como “ethics washing”, un intento de tomar prestada credibilidad moral. Green respondió que cualquier apariencia sería detectada rápidamente y resultaría difícil de reparar.
El papa León XIV published su primera encíclica el 25 de mayo, un texto de unas 40 000 palabras que pide que la IA sea desarmada y mantenida subordinada a la dignidad humana. El cofundador de Anthropic, Christopher Olah, attended la presentación en el Vaticano, el paso más reciente en meses de acercamiento a líderes religiosos.
Lee a continuación: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft