Anthropic heeft theologen en ethici geraadpleegd om te bepalen hoe zijn chatbot Claude zich gedraagt, terwijl paus Leo XIV waarschuwt dat artificial intelligence threatens de menselijke waardigheid.
Belangrijkste punten:
- Anthropic nodigde eind maart ongeveer 15 religieuze denkers uit op het hoofdkantoor in San Francisco om Claude's morele kader te bespreken.
- De sessies zijn bedoeld om Claude's constitutie te verfijnen, de geschreven principes die sturen hoe het model op gebruikers reageert.
- De eerste encycliek van paus Leo XIV, uitgebracht op 25 mei, dringt erop aan dat AI ontwapend wordt en ondergeschikt blijft aan menselijke waardigheid.
Anthropic werft religieuze geleerden
Ongeveer 15 religieuze denkers metten eind maart met het bedrijf op het kantoor in San Francisco. Ze kwamen om een vraag te wegen die nu de AI-industrie verdeelt: hoe leer je een chatbot goed te zijn wanneer eenvoudige regels niet langer elk geval dekken.
De uitnodigingen kwamen op uiteenlopende manieren binnen, sommige per e‑mail en andere via via. Elke gast nam deel aan een reeks gesprekken over Claude en het morele kader dat bedoeld is om te sturen hoe hij antwoordt. Het doel was niet om het model vroom te maken, maar om te putten uit eeuwen aan religieuze reflectie over goed en kwaad.
Die denktraditie voedt wat Anthropic Claude's constitutie noemt, een geschreven set principes die het bedrijf gebruikt om de antwoorden van het model te vormen over alles, van rouw tot zorg aan het levenseinde. Het bedrijf traint Claude om zijn eigen antwoorden te bekritiseren en te herzien aan de hand van die regels, in plaats van een vaste lijst verboden te volgen.
Ook lezen: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
Experts zetten vraagtekens bij Claude's morele kader
Brian Patrick Green, technologie-ethicus aan de Santa Clara University, zei dat de groeiende macht van het lab zijn interne wijsheid begon te overstijgen. Greg Cootsona, die de adviesgroep AI and Faith leidt, herinnerde zich dat medewerkers toegaven dat de vragen te groot waren geworden om nog alleen te beantwoorden. Een sessie eind april broadenedde de kring met joodse, hindoeïstische, sikh-, mormoonse en Grieks-orthodoxe stemmen.
Niet elke geleerde is ervan overtuigd dat deze aanpak het diepere probleem oplost van wie deze bedrijven ter verantwoording roept. Carissa Véliz, ethicus aan de University of Oxford, betwijfelde of uitgesproken intenties zwaarder wegen dan de prikkels die een commercieel model creëert.
Ze waarschuwde dat religieuze taal rond technologie een tribale loyaliteit kan kweken die zich verzet tegen nuchtere rede. Critici zetten de outreach weg als ethics washing, een poging om morele geloofwaardigheid te lenen. Green wierp daartegen in dat elke schijn snel doorzien zou worden en moeilijk te herstellen is.
Paus Leo XIV published op 25 mei zijn eerste encycliek, een tekst van ongeveer 40.000 woorden die oproept om AI te ontwapenen en ondergeschikt te houden aan de menselijke waardigheid. Anthropic‑medeoprichter Christopher Olah attended de presentatie in het Vaticaan, de nieuwste stap in maandenlange toenadering tot religieuze leiders.
Lees hierna: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft