Anthropic hat Theologen und Ethiker konsultiert, um zu bestimmen, wie sich sein Chatbot Claude verhalten soll, während Papst Leo XIV. davor warnt, dass artificial intelligence threatens die Menschenwürde.
Zentrale Punkte:
- Anthropic lud etwa 15 Religionsdenker Ende März in seine Zentrale in San Francisco ein, um über Claudes moralischen Rahmen zu diskutieren.
- Die Sitzungen sollen Claudes Verfassung verfeinern, die schriftlichen Prinzipien, die steuern, wie das Modell auf Nutzer reagiert.
- Die erste Enzyklika von Papst Leo XIV., veröffentlicht am 25. Mai, fordert, dass KI entwaffnet und der Menschenwürde untergeordnet wird.
Anthropic rekrutiert religiöse Gelehrte
Etwa 15 Religionsdenker met sich mit dem Unternehmen Ende März in dessen Büro in San Francisco. Sie kamen, um eine Frage abzuwägen, die die KI-Branche derzeit spaltet: Wie bringt man einem Chatbot bei, gut zu handeln, wenn einfache Regeln nicht mehr jeden Fall abdecken.
Die Einladungen trafen auf unterschiedlichen Wegen ein, einige per E‑Mail und andere über einen Freund eines Freundes. Jeder Gast nahm an einer Reihe von Gesprächen über Claude und den moralischen Rahmen teil, der sein Antwortenleiten soll. Ziel war es nicht, das Modell fromm zu machen, sondern auf Jahrhunderte religiöser Überlegungen zu richtig und falsch zurückzugreifen.
Diese Überlegungen fließen in das ein, was Anthropic Claudes Verfassung nennt – ein schriftlicher Satz von Prinzipien, den das Unternehmen nutzt, um die Antworten des Modells zu Themen von Trauer bis zur Sterbebegleitung zu formen. Das Unternehmen trainiert Claude so, dass er seine eigenen Antworten anhand dieser Regeln kritisiert und überarbeitet, statt einer festen Liste von Verboten zu folgen.
Auch lesenswert: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
Experten hinterfragen Claudes moralischen Rahmen
Brian Patrick Green, Technologieethiker an der Santa Clara University, sagte, die wachsende Macht des Labors habe begonnen, dessen interne Weisheit zu übersteigen. Greg Cootsona, der die Beratungsgruppe AI and Faith leitet, erinnerte sich, dass Mitarbeitende einräumten, die Fragen seien zu groß geworden, um sie allein zu beantworten. Eine Sitzung Ende April broadened den Kreis, um jüdische, hinduistische, sikhische, mormonische und griechisch-orthodoxe Stimmen einzubeziehen.
Nicht jeder Gelehrte ist überzeugt, dass der Ansatz das tiefere Problem löst, wer diese Unternehmen zur Rechenschaft zieht. Carissa Véliz, Ethikerin an der University of Oxford, stellte in Frage, ob erklärte Absichten wichtiger seien als die Anreize, die ein Geschäftsmodell schafft.
Sie warnte, religiöse Sprache rund um Technologie könne eine Stammesloyalität fördern, die sich gegen nüchterne Vernunft sperrt. Kritiker tun die Kontaktaufnahme als „Ethics Washing“ ab, als Versuch, sich moralische Glaubwürdigkeit zu leihen. Green hielt dagegen, dass jede Vortäuschung schnell auffallen und sich nur schwer reparieren ließe.
Papst Leo XIV. published am 25. Mai seine erste Enzyklika, einen rund 40.000 Wörter umfassenden Text, der fordert, KI zu entwaffnen und der Menschenwürde unterzuordnen. Anthropic-Mitgründer Christopher Olah attended die Präsentation im Vatikan – der jüngste Schritt in monatelangen Bemühungen um den Austausch mit Religionsführern.
Als Nächstes lesen: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft