Anthropic a consulté des théologiens et des éthiciens pour façonner la manière dont son chatbot Claude se comporte, alors que le pape Léon XIV avertit que artificial intelligence threatens la dignité humaine.
Points clés :
- Anthropic a invité une quinzaine de penseurs religieux à son siège de San Francisco fin mars pour discuter du cadre moral de Claude.
- Les sessions visent à affiner la constitution de Claude, les principes écrits qui guident la façon dont le modèle répond aux utilisateurs.
- La première encyclique du pape Léon XIV, publiée le 25 mai, appelle à désarmer l’IA et à la maintenir subordonnée à la dignité humaine.
Anthropic recrute des universitaires religieux
Environ 15 penseurs religieux met se sont réunis avec l’entreprise dans ses bureaux de San Francisco fin mars. Ils sont venus se pencher sur une question qui divise désormais l’industrie de l’IA : comment apprendre à un chatbot à être bon lorsque des règles simples ne couvrent plus tous les cas.
Les invitations sont arrivées de manière dispersée, certaines par e‑mail et d’autres par l’intermédiaire de relations personnelles. Chaque invité a participé à une série d’échanges sur Claude et le cadre moral censé guider ses réponses. L’objectif n’était pas de rendre le modèle pieux, mais de s’appuyer sur des siècles de réflexion religieuse sur le bien et le mal.
Ce raisonnement alimente ce qu’Anthropic appelle la constitution de Claude, un ensemble écrit de principes que l’entreprise utilise pour façonner les réponses du modèle sur tout, du deuil aux soins de fin de vie. La société entraîne Claude à critiquer et réviser ses propres réponses à l’aune de ces règles plutôt qu’à suivre une liste fixe d’interdictions.
À lire aussi : Traders Now Give Fable 5 74% Shot At Returning By Mid-July
Des experts questionnent le cadre moral de Claude
Brian Patrick Green, éthicien des technologies à l’université de Santa Clara, a déclaré que le pouvoir croissant du laboratoire commençait à dépasser sa sagesse interne. Greg Cootsona, qui dirige le groupe de conseil AI and Faith, se souvient que des employés ont reconnu que les questions étaient devenues trop vastes pour être résolues seuls. Une session fin avril broadened a élargi le cercle pour inclure des voix juives, hindoues, sikhes, mormones et grecques orthodoxes.
Tous les universitaires ne sont pas convaincus que cette approche résolve le problème plus profond de la responsabilité de ces entreprises. Carissa Véliz, éthicienne à l’université d’Oxford, s’est demandé si les intentions affichées comptaient davantage que les incitations créées par un modèle commercial.
Elle a averti que le langage religieux autour de la technologie peut engendrer une loyauté tribale qui résiste à la raison simple. Les critiques rejettent cette démarche comme du « lavage éthique », une tentative d’emprunter une crédibilité morale. Green a rétorqué que toute semblant serait rapidement démasqué et difficile à réparer.
Le pape Léon XIV published a publié sa première encyclique le 25 mai, un texte d’environ 40 000 mots qui appelle à désarmer l’IA et à la maintenir subordonnée à la dignité humaine. Le cofondateur d’Anthropic, Christopher Olah, attended a assisté à la présentation au Vatican, dernière étape de plusieurs mois d’échanges avec des responsables religieux.
À lire ensuite : SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft