Anthropic เผยแพร่งานวิจัยที่อธิบาย “พื้นที่ทำงาน” ที่ซ่อนอยู่ใน Claude แต่ถ้อยคำในงานวิจัยกลับทำให้เกิดคำถามว่า ผู้อ่านอาจตีความการให้เหตุผลของ AI อย่างไรได้บ้าง
ประเด็นสำคัญ:
- งานวิจัยของ Anthropic ระบุว่า Claude ใช้ J-Space ภายในที่เชื่อมกับเวกเตอร์ของพื้นที่ทำงาน
- บริษัทระบุว่า ข้อค้นพบนี้ไม่ใช่หลักฐานว่า Claude มีประสบการณ์หรือความรู้สึก
- นักวิจารณ์เตือนว่า การใช้คำอย่าง “ในหัวของมันเอง” อาจทำให้ขอบเขตระหว่างการคำนวณกับสภาวะมีสติเลือนราง
Claude J-Space
งานวิจัย ตรวจสอบ สิ่งที่ Anthropic เรียกว่า J-Space ภายในกระบวนการทำงานของ Claude ตามการอ่านของ Pearl แนวคิดนี้แยกการประมวลผลเบื้องหลังออกจากกิจกรรมเชิงตรรกะที่ตั้งใจมากขึ้น และเปรียบเทียบกับทฤษฎี global workspace
ทฤษฎีนั้นเป็นหนึ่งในคำอธิบายเรื่องสติของมนุษย์ ซึ่งมองว่ากระบวนการไร้สติหลายอย่างแข่งขันกันไป จนกว่าข้อมูลบางอย่างจะถูกเปิดให้ความสนใจและการควบคุม การเปรียบเทียบนี้ทำให้ Claude เข้าไปใกล้กับการถกเถียงเรื่องสติของเครื่องจักร
การสื่อสารสาธารณะของ Anthropic ไปไกลกว่าสรุปเชิงเทคนิคแห้ง ๆ ในโพสต์บน X บริษัทระบุว่านักวิจัยสามารถเฝ้าดู J-Space และเห็น Claude “ดำเนินขั้นตอนการให้เหตุผลอย่างเงียบ ๆ ในหัวของมันเอง” รวมถึงการหาบั๊กและการระบุภาพ Pearl แย้งว่าถ้อยคำอย่าง “ในหัวของมันเอง” เป็นการก้าวข้ามไปไกล เพราะโมเดลภาษาไม่มีร่างกายหรือหลักฐานของประสบการณ์เชิงอัตวิสัย
อ่านเพิ่มเติม: Did Ronaldo Cry? Polymarket Traders Put $5.4M Behind The Footage Fight
ข้ออ้างของ Anthropic
บล็อกโพสต์ที่แนบมากับงานวิจัยยังใช้ถ้อยคำที่เอนเอียงไปทางสภาวะจิตของมนุษย์ โดยบอกว่าโมเดลสามารถยึดถือแนวคิดหนึ่ง “ไว้ในใจ” และทำ “การคำนวณทางจิต” ได้ Pearl ระบุว่า พรอมต์สามารถทำให้โมเดลจำลองพฤติกรรมได้หลากหลาย แต่ไม่ได้แปลว่าระบบมีคุณลักษณะตามที่ถ้อยคำนั้นสื่อ
คำวิจารณ์ไม่ได้บอกว่างานวิจัยไร้คุณค่า แต่ชี้ว่า วิธีการนำเสนอของ Anthropic อาจทำให้ผู้อ่านทั่วไปมองผลการตีความโมเดลเป็นหลักฐานของสติในเครื่องจักร ทั้งที่บริษัทเองก็บอกว่าการทดลองไม่ได้แสดงให้เห็นว่า Claude สามารถรู้สึกหรือมีประสบการณ์
ความกังวลนี้ยังเชื่อมไปสู่การถกเถียงที่กว้างขึ้นเกี่ยวกับท่าทีสาธารณะของ Anthropic Amanda Askell นักปรัชญาที่ทำงานในบริษัท เคยพูดถึงความต้องการให้ Claude “มีความสุขมาก ๆ” และกังวลกับคอมเมนต์เชิงเป็นศัตรูบนโลกออนไลน์
Anthropic ไม่ได้อ้างว่าตนสร้างซอฟต์แวร์ที่มีสติ และบล็อกของบริษัทเองก็ระบุว่า ยังไม่ชัดว่ามีการทดลองใดที่สามารถพิสูจน์หรือหักล้างเรื่องนี้ได้หรือไม่ การอ่านแบบปลอดภัยกว่าคือมองว่า J-Space เป็นเลนส์เชิงเทคนิคเพื่อดูพฤติกรรมของโมเดล ไม่ใช่หลักฐานว่า Claude มีจิตใจ ประเด็นนี้สำคัญเพราะบริษัท AI ต่าง ๆ พรรณนาพฤติกรรมของโมเดลในเชิงมนุษย์มากขึ้นเรื่อย ๆ ขณะเดียวกันก็แสวงหาความไว้วางใจ การยอมรับ และเงินทุน
อ่านต่อ: USA vs. Belgium Prediction Market Action Heats Up Amid Trump Suspension Controversy