Anthropic telah berkonsultasi dengan para teolog dan pakar etika untuk membentuk bagaimana chatbot-nya, Claude, berperilaku, sementara Paus Leo XIV memperingatkan bahwa artificial intelligence threatens martabat manusia.
Poin-Poin Utama:
- Anthropic mengundang sekitar 15 pemikir agama ke kantor pusatnya di San Francisco pada akhir Maret untuk membahas kerangka moral Claude.
- Sesi-sesi ini bertujuan menyempurnakan konstitusi Claude, prinsip-prinsip tertulis yang mengarahkan bagaimana model merespons pengguna.
- Ensiklik pertama Paus Leo XIV, yang dirilis 25 Mei, menyerukan agar AI dilucuti dan tetap berada di bawah martabat manusia.
Anthropic Merekrut Cendekiawan Agama
Sekitar 15 pemikir agama met dengan perusahaan di kantor San Francisco pada akhir Maret. Mereka datang untuk menimbang sebuah pertanyaan yang kini memecah industri AI: bagaimana mengajarkan chatbot untuk berbuat baik ketika aturan sederhana tidak lagi mencakup setiap kasus.
Undangan datang dengan berbagai cara, sebagian melalui email dan lainnya lewat teman dari teman. Setiap tamu mengikuti serangkaian diskusi tentang Claude dan kerangka moral yang dimaksudkan untuk membimbing bagaimana ia menjawab. Tujuannya bukan untuk menjadikan model ini saleh, melainkan untuk menarik dari berabad-abad penalaran religius tentang benar dan salah.
Penalaran itu memberi masukan pada apa yang oleh Anthropic disebut sebagai konstitusi Claude, seperangkat prinsip tertulis yang digunakan perusahaan untuk membentuk respons model atas segala hal, dari duka hingga perawatan di akhir hayat. Perusahaan melatih Claude untuk mengkritik dan merevisi jawabannya sendiri berdasarkan aturan-aturan tersebut alih-alih mengikuti daftar larangan tetap.
Also Read: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
Para Ahli Mempertanyakan Kerangka Moral Claude
Brian Patrick Green, pakar etika teknologi di Santa Clara University, mengatakan kekuatan laboratorium yang terus tumbuh mulai melampaui kebijaksanaan internalnya. Greg Cootsona, yang memimpin kelompok penasihat AI and Faith, mengingat staf mengakui bahwa pertanyaan-pertanyaan ini telah menjadi terlalu besar untuk dijawab sendirian. Sesi pada akhir April broadened lingkaran untuk memasukkan suara Yahudi, Hindu, Sikh, Mormon, dan Ortodoks Yunani.
Tidak setiap cendekiawan yakin bahwa pendekatan ini memperbaiki masalah yang lebih dalam tentang siapa yang memegang akuntabilitas perusahaan-perusahaan ini. Carissa Véliz, seorang pakar etika di University of Oxford, mempertanyakan apakah niat yang dinyatakan lebih penting daripada insentif yang diciptakan oleh model komersial.
Ia memperingatkan bahwa bahasa religius seputar teknologi dapat menumbuhkan loyalitas kesukuan yang menolak nalar biasa. Para pengkritik mengejek upaya ini sebagai ethics washing, upaya meminjam kredibilitas moral. Green menanggapi bahwa kepura-puraan apa pun akan dengan cepat terlihat dan sulit diperbaiki.
Paus Leo XIV published ensiklik pertamanya pada 25 Mei, teks sekitar 40.000 kata yang menyerukan agar AI dilucuti dan dijaga tetap berada di bawah martabat manusia. Salah satu pendiri Anthropic, Christopher Olah, attended presentasi di Vatikan, langkah terbaru dalam berbulan-bulan upaya menjangkau para pemimpin agama.
Read Next: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft