Anthropic ha consultato teologi ed eticisti per definire il comportamento del suo chatbot Claude, mentre Papa Leone XIV avverte che artificial intelligence threatens la dignità umana.
Punti chiave:
- Anthropic ha invitato circa 15 pensatori religiosi nella sua sede di San Francisco a fine marzo per discutere il quadro morale di Claude.
- Le sessioni mirano a perfezionare la costituzione di Claude, i principi scritti che guidano il modo in cui il modello risponde agli utenti.
- La prima enciclica di Papa Leone XIV, pubblicata il 25 maggio, esorta a disarmare l’IA e a mantenerla subordinata alla dignità umana.
Anthropic arruola studiosi religiosi
Circa 15 pensatori religiosi met si sono incontrati con l’azienda nel suo ufficio di San Francisco a fine marzo. Sono venuti per valutare una questione che oggi divide l’industria dell’IA: come insegnare a un chatbot a essere buono quando semplici regole non coprono più ogni caso.
Gli inviti sono arrivati in modi diversi, alcuni via e‑mail e altri tramite il passaparola. Ogni ospite ha partecipato a una serie di incontri su Claude e sul quadro morale pensato per guidare le sue risposte. L’obiettivo non era rendere il modello devoto, ma attingere a secoli di riflessione religiosa su ciò che è giusto e sbagliato.
Questo pensiero alimenta quella che Anthropic chiama la costituzione di Claude, un insieme scritto di principi che l’azienda usa per modellare le risposte del sistema su tutto, dal lutto all’assistenza di fine vita. L’azienda addestra Claude a criticare e rivedere da solo le proprie risposte in base a tali regole, invece di seguire un elenco fisso di divieti.
Also Read: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
Gli esperti mettono in discussione il quadro morale di Claude
Brian Patrick Green, eticista della tecnologia alla Santa Clara University, ha affermato che il potere crescente del laboratorio ha iniziato a superare la saggezza interna. Greg Cootsona, che guida il gruppo consultivo AI and Faith, ha ricordato che lo staff ha ammesso che le domande erano diventate troppo grandi per essere affrontate da soli. Una sessione di fine aprile broadened il circolo includendo voci ebraiche, indù, sikh, mormoni e greco‑ortodosse.
Non tutti gli studiosi sono convinti che questo approccio risolva il problema più profondo di chi rende conto di queste aziende. Carissa Véliz, eticista presso l’Università di Oxford, si è chiesta se le intenzioni dichiarate contino più degli incentivi creati da un modello commerciale.
Ha avvertito che il linguaggio religioso sulla tecnologia può alimentare una lealtà tribale che resiste alla ragione semplice. I critici liquidano questo coinvolgimento come “ethics washing”, un tentativo di prendere in prestito credibilità morale. Green ha ribattuto che ogni finzione verrebbe scoperta rapidamente e sarebbe difficile da riparare.
Papa Leone XIV ha published la sua prima enciclica il 25 maggio, un testo di circa 40.000 parole che chiede di disarmare l’IA e di mantenerla subordinata alla dignità umana. Il cofondatore di Anthropic Christopher Olah ha attended la presentazione in Vaticano, l’ultima tappa di mesi di dialogo con i leader religiosi.
Read Next: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft