Jacob Coxon นักวิจัยของ Anthropic ตัดสินใจลาออกในสัปดาห์นี้ ด้วยความกังวลว่าเอไออาจหลุดการควบคุม ขณะที่หัวหน้าทีม alignment ของบริษัทออกมาระบุว่า ความเสี่ยงที่เอไอนำไปสู่การสูญพันธุ์ของมนุษยชาติในทศวรรษนี้อยู่เหนือระดับ 10%
ประเด็นสำคัญ
- Jacob Coxon ลาออกจาก Anthropic หลังทำวิจัยด้าน pretraining สามปีที่ Anthropic และ OpenAI โดยมองว่าทั้งสองบริษัทกำลังแข่งกันสร้างระบบที่ตัวเองก็อาจควบคุมไม่ได้
- Evan Hubinger หัวหน้าทีม alignment science ของ Anthropic ประเมินส่วนตัวว่า โอกาสที่เอไอฆ่ามนุษย์ทั้งโลกมีมากกว่า 10% ภายใน 10 ปีข้างหน้า
- Hubinger ระบุว่าโมเดลเอไอในปัจจุบันมีความเสี่ยงต่ำ แต่กังวลหนักต่อสถานการณ์ที่เกิด recursive self-improvement
Jacob Coxon ลา Anthropic เหตุไม่เชื่อใจ “การแข่งขันเอไอ”
Coxon วัย 27 ปี ใช้เวลาสามปีทำวิจัยด้าน pretraining ที่ OpenAI และ Anthropic ก่อนออกมาโพสต์เธรดบน X เช้าวันพุธประกาศลาออก เขาระบุว่าทั้งสองบริษัทไม่ได้ดำเนินการอย่างมีความรับผิดชอบ และต่างเร่งแข่งกันสร้าง “ซูเปอร์อินเทลลิเจนซ์ที่พัฒนาตัวเองได้” โดยเดิมพันด้วยชีวิตมนุษย์ โพสต์เปิดเธรดมียอดเข้าชมกว่า 19 ล้านครั้งภายในไม่กี่ชั่วโมง
ในบทสัมภาษณ์แยกต่างหาก เขาเตือนว่าฉากทัศน์ที่เลวร้ายที่สุดกำลังกลายเป็น “เส้นทางหลัก” และสถานการณ์อาจหลุดจากการควบคุมได้ภายในสิ้นปีหน้า โดยระบุว่าคำอย่าง “crunchtime” และ “endgame” เริ่มถูกใช้บ่อยในหมู่เพื่อนร่วมงานเพื่ออธิบายทิศทางของเทคโนโลยี
Coxon จบพื้นฐานด้านคณิตศาสตร์ ก่อนขยับเข้าสู่สายงานฝึกโมเดลเอไอ เขาเพิ่งออกจาก OpenAI มาร่วมงานกับ Anthropic เมื่อต้นปีนี้ เพราะมองว่าบริษัทหลังมีชื่อด้านความปลอดภัยมากกว่า แต่เขากล่าวว่า เมื่อห้องแล็บเอไอรายใหญ่ต้องแข่งขันกัน “การแลก” ความปลอดภัยย่อมหลีกเลี่ยงไม่ได้
เขาจึงสรุปว่า ไม่มีบริษัทเอกชนรายใดสามารถพัฒนาเอไอระดับมนุษย์ขึ้นมาอย่าง “รับผิดชอบได้จริง” หากไม่มีทั้งการกำกับดูแลจากรัฐ และการชะลอการแข่งขันอย่างพร้อมเพรียงทั่วทั้งอุตสาหกรรม
อ่านเพิ่มเติม: ราคาน้ำมันดิจิทัล XRP จ่อทดสอบ 1.46 ดอลลาร์ หลังวาฬกลับมาสะสมในกันยายน
Evan Hubinger ชี้โอกาส “ล้างเผ่าพันธุ์” มากกว่า 10%
Evan Hubinger หัวหน้าทีม alignment science ของ Anthropic ซึ่งรับผิดชอบการทำ stress test โมเดลเอไอของบริษัท ออกมายืนยันว่าภาพรวมที่ Coxon บรรยาย “ตรงกับความเป็นจริง” พร้อมประเมินส่วนตัวว่า โอกาสที่เอไอจะทำให้มนุษย์สูญพันธุ์ทั้งหมดมีมากกว่า 10% ภายในทศวรรษข้างหน้า
Hubinger ระบุว่า Anthropic “พยายามเต็มที่” กับโจทย์ด้านความปลอดภัย แต่ยอมรับอย่างตรงไปตรงมาว่า บริษัทยังไม่มีแผนแก้ปัญหา alignment สำหรับระดับ “ซูเปอร์อินเทลลิเจนซ์” และยังไม่เห็นเส้นทางที่ชัดเจนไปสู่คำตอบดังกล่าว
เขาเสริมภายหลังว่า โมเดลเอไอในปัจจุบันมีความเสี่ยงต่ำ ความกังวลของเขามุ่งไปที่สถานการณ์ซึ่งเอไอระดับสูงสามารถ “ฝึกทายาทของตัวเอง” หรือ recursive self-improvement ซึ่งอาจทำให้ศักยภาพระบบพุ่งขึ้นอย่างรวดเร็วเกินกว่าที่สถาบันต่างๆ จะรับมือทัน
ทั้งนี้ ตัวเลข 10% เป็นเพียง “ความเห็นส่วนตัว” ของ Hubinger ไม่ใช่ประมาณการอย่างเป็นทางการของบริษัท และการคาดการณ์ประเภทนี้ตั้งอยู่บนสมมติฐานที่ยังถกเถียงกันอย่างหนักเรื่องศักยภาพในอนาคตและรูปแบบการใช้งานจริง
Anthropic เคยระบุในที่สาธารณะว่า recursive self-improvement “ไม่ใช่สิ่งที่จะเกิดขึ้นโดยอัตโนมัติแน่นอน” แต่ก็ยอมรับว่ามันอาจเกิดขึ้นเร็วกว่าที่สถาบันต่างๆ เตรียมตัวไว้ และจะเพิ่มโอกาสที่มนุษย์สูญเสียการควบคุม
ทีมความปลอดภัยของ Anthropic สะเทือนต่อเนื่อง
Coxon ไม่ใช่นักวิจัยด้านความปลอดภัยคนแรกที่โบกมือลาบริษัท ก่อนหน้านี้ Mrinank Sharma อดีตหัวหน้าทีม safeguards ของ Anthropic ก็ได้ลาออกเมื่อช่วงต้นปี พร้อมทิ้งคำเตือนว่าตอนนี้ “โลกกำลังอยู่ในภาวะอันตราย” และประกาศว่าจะไปศึกษากวีนิพนธ์ต่อที่สหราชอาณาจักร
Anthropic ซึ่งก่อตั้งขึ้นในปี 2021 โดยอดีตทีมงานของ OpenAI สร้างชื่อจากการวางตัวเป็นบริษัทเอไอที่ “ให้ความสำคัญกับความปลอดภัยเป็นอันดับแรก” อย่างไรก็ตาม จนถึงเช้าวันพุธที่ผ่านมา บริษัทก็ยังไม่ได้ออกแถลงการณ์สาธารณะใดๆ ตอบต่อการลาออกของ Coxon
อ่านถัดไป: Bitget เพิ่มหลักสูตรบล็อกเชนในโครงการ UNICEF เข้าถึงเยาวชนกว่า 642,000 คน
