Anthropic, sohbet botu Claude’un nasıl davrandığını şekillendirmek için ilahiyatçılar ve etikçilerle istişare ediyor; bu sırada Papa Leo XIV, artificial intelligence threatens insan onurunu tehdit ettiği konusunda uyarıda bulunuyor.
Öne Çıkan Noktalar:
- Anthropic, Mart ayı sonunda San Francisco genel merkezine yaklaşık 15 din düşünürünü davet ederek Claude’un ahlaki çerçevesini tartıştı.
- Oturumların amacı, modelin kullanıcılara nasıl yanıt verdiğini yönlendiren yazılı ilkeler olan Claude’un anayasasını geliştirmek.
- Papa Leo XIV’ün 25 Mayıs’ta yayımlanan ilk genelgesi, yapay zekânın etkisizleştirilmesini ve insan onuruna tabi kılınmasını talep ediyor.
Anthropic Din Bilimcileri Görevlendiriyor
Yaklaşık 15 din düşünürü, Mart ayı sonunda şirketle San Francisco ofisinde met. Amaçları, bugün yapay zekâ sektörünü bölen bir soruyu tartmak: Basit kurallar artık her durumu kapsamadığında bir sohbet botuna “iyi” olmayı nasıl öğretirsiniz?
Davetler farklı yollarla ulaştı; bazıları e‑posta ile, bazıları ise bir tanıdık aracılığıyla geldi. Her konuk, Claude’u ve onun nasıl yanıt vereceğini yönlendirmesi amaçlanan ahlaki çerçeveyi konu alan bir dizi konuşmaya katıldı. Hedef, modeli dindar yapmak değil, doğru ve yanlış üzerine yüzyıllara dayanan dinî muhakemeden yararlanmaktı.
Bu muhakeme, Anthropic’in Claude’un anayasası adını verdiği şeye, yani şirketin modelin yas tutmadan yaşam sonu bakımına kadar her konuda verdiği yanıtları şekillendirmek için kullandığı yazılı ilkelere kaynaklık ediyor. Şirket, Claude’u sabit bir yasaklar listesine uymak yerine, bu kurallara göre kendi yanıtlarını eleştirmesi ve gözden geçirmesi için eğitiyor.
Ayrıca Oku: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
Uzmanlar Claude’un Ahlaki Çerçevesini Sorguluyor
Santa Clara Üniversitesi’nden teknoloji etikçisi Brian Patrick Green, laboratuvarın artan gücünün, artık kurum içi bilgeliğini aştığını söyledi. Danışman grubu AI and Faith’i yöneten Greg Cootsona, personelin soruların artık tek başlarına yanıtlayamayacakları kadar büyüdüğünü kabul ettiğini aktardı. Nisan sonundaki bir oturum, broadened ile Yahudi, Hindu, Sih, Mormon ve Rum Ortodoks seslerini de kapsayacak şekilde çemberi genişletti.
Her bilim insanı, bu yaklaşımın bu şirketleri kimin sorumlu tuttuğuna dair daha derin sorunu çözdüğüne ikna olmuş değil. Oxford Üniversitesi’nden etikçi Carissa Véliz, beyan edilen niyetlerin ticari bir modelin yarattığı teşviklerden daha önemli olup olmadığını sorguladı.
Véliz, teknoloji etrafındaki dinî dilin, sağduyuya direnen kabileci bir sadakat üretebileceği konusunda uyardı. Eleştirmenler, bu açılımı, ahlaki itibar ödünç alma girişimi olan bir “etik yıkama” çabası olarak küçümsüyor. Green ise, böyle bir yapmacıklığın hızla fark edileceğini ve onarılmasının zor olacağını savundu.
Papa Leo XIV, 25 Mayıs’ta yaklaşık 40.000 kelimelik ilk genelgesini published; bu metin, yapay zekânın etkisizleştirilmesini ve insan onuruna tabi kılınmasını talep ediyor. Anthropic’in kurucu ortağı Christopher Olah, aylar süren dinî liderlere yönelik temasların son adımı olan Vatikan sunumuna attended.
Sıradaki Haber: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft