Anthropic ได้ปรึกษานักเทววิทยาและนักจริยศาสตร์เพื่อกำหนดวิธีที่แชตบอต Claude ควรปฏิบัติ ขณะที่ สมเด็จพระสันตะปาปาลีโอที่ 14 เตือนว่า artificial intelligence threatens ศักดิ์ศรีความเป็นมนุษย์
ประเด็นสำคัญ:
- Anthropic เชิญนักคิดด้านศาสนาประมาณ 15 คนไปที่สำนักงานใหญ่ในซานฟรานซิสโกช่วงปลายเดือนมีนาคมเพื่อหารือกรอบศีลธรรมของ Claude
- การประชุมมีเป้าหมายเพื่อปรับปรุง “รัฐธรรมนูญ” ของ Claude ซึ่งเป็นหลักการเชิงลายลักษณ์อักษรที่กำหนดวิธีที่โมเดลตอบผู้ใช้
- สมเด็จพระสันตะปาปาลีโอที่ 14 ทรงออกสมณสาสน์ฉบับแรกเมื่อวันที่ 25 พฤษภาคม เรียกร้องให้ปลดอาวุธเอไอและทำให้เอไออยู่ใต้ศักดิ์ศรีความเป็นมนุษย์
Anthropic ดึงนักวิชาการด้านศาสนาเข้าร่วม
นักคิดด้านศาสนาประมาณ 15 คนได้ met กับบริษัทที่สำนักงานซานฟรานซิสโกในช่วงปลายเดือนมีนาคม พวกเขามาเพื่อตอบคำถามซึ่งกำลังแบ่งแยกอุตสาหกรรมเอไออยู่ตอนนี้: จะสอนแชตบอตให้ “เป็นคนดี” ได้อย่างไร เมื่อกฎง่าย ๆ ไม่ครอบคลุมทุกกรณีอีกต่อไป
คำเชิญถูกส่งไปอย่างกระจัดกระจาย บางคนได้รับอีเมล บางคนได้ผ่านเพื่อนของเพื่อน แขกแต่ละคนเข้าร่วมการเสวนาชุดหนึ่งเกี่ยวกับ Claude และกรอบศีลธรรมที่ออกแบบมาเพื่อชี้นำคำตอบของมัน เป้าหมายไม่ใช่ทำให้โมเดลเคร่งศาสนา แต่เพื่อดึงเอาการให้เหตุผลด้านศีลธรรมของศาสนาที่สั่งสมมาหลายศตวรรษมาใช้แยกแยะถูกผิด
การให้เหตุผลนั้นถูกนำไปสู่สิ่งที่ Anthropic เรียกว่า “รัฐธรรมนูญของ Claude” ซึ่งเป็นชุดหลักการเชิงลายลักษณ์อักษรที่บริษัทใช้กำหนดการตอบสนองของโมเดลในทุกเรื่อง ตั้งแต่ความโศกเศร้าไปจนถึงการดูแลช่วงท้ายชีวิต บริษัทฝึกให้ Claude วิจารณ์และแก้ไขคำตอบของตัวเองตามกฎเหล่านั้น แทนที่จะทำตามรายการข้อห้ามตายตัว
อ่านเพิ่มเติม: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
ผู้เชี่ยวชาญตั้งคำถามต่อกรอบศีลธรรมของ Claude
ไบรอัน แพทริก กรีน นักจริยศาสตร์ด้านเทคโนโลยีจากมหาวิทยาลัยซานตาคลารา ระบุว่า อำนาจที่เพิ่มขึ้นของห้องปฏิบัติการนี้เริ่มแซงหน้าปัญญาภายในองค์กรของตนเอง เกร็ก คูทโซนา ผู้ก่อตั้งกลุ่มที่ปรึกษา AI and Faith เล่าว่า บุคลากรยอมรับว่าคำถามที่เผชิญหน้าอยู่ตอนนี้ใหญ่เกินกว่าจะตอบได้ลำพัง การประชุมช่วงปลายเดือนเมษายนได้ broadened วงสนทนาให้ครอบคลุมนักวิชาการยิว ฮินดู ซิก มอร์มอน และออร์ทอดอกซ์กรีก
ไม่ใช่นักวิชาการทุกคนที่เชื่อว่าแนวทางนี้จะแก้ปัญหาที่ลึกกว่านั้นได้ คือใครกันที่มีอำนาจตรวจสอบบริษัทเหล่านี้ คาริสซา เวลิซ นักจริยศาสตร์จากมหาวิทยาลัยออกซ์ฟอร์ด ตั้งคำถามว่าความตั้งใจที่ประกาศออกมามีความหมายมากไปกว่าแรงจูงใจเชิงพาณิชย์ของโมเดลหรือไม่
เธอเตือนว่าการใช้ภาษาศาสนากับเทคโนโลยีอาจก่อให้เกิดความภักดีในลักษณะเผ่าพันธุ์ ที่ต่อต้านเหตุผลตรงไปตรงมา นักวิจารณ์มองว่าการขยายงานนี้เป็นการ “ล้างจริยธรรม” เพื่อยืมความชอบธรรมทางศีลธรรมมาใช้ กรีนตอบโต้ว่า หากเป็นเพียงการเสแสร้ง ก็น่าจะถูกจับได้อย่างรวดเร็วและยากจะกู้คืนความน่าเชื่อถือ
สมเด็จพระสันตะปาปาลีโอที่ 14 ได้ published สมณสาสน์ฉบับแรกเมื่อวันที่ 25 พฤษภาคม ข้อความราว 40,000 คำนี้เรียกร้องให้ปลดอาวุธเอไอและทำให้เอไออยู่ใต้ศักดิ์ศรีความเป็นมนุษย์ ผู้ร่วมก่อตั้ง Anthropic อย่าง คริสโตเฟอร์ โอลาห์ ได้ attended การแถลงที่วาติกัน ซึ่งเป็นอีกก้าวหนึ่งในความพยายามเชื่อมต่อกับผู้นำศาสนาตลอดหลายเดือนที่ผ่านมา
อ่านต่อ: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft