อดีตนักวิจัยด้านความปลอดภัยของ Google DeepMind อย่าง บิลาเล เชาก์ไต (Bilal Chughtai) ออกมาเตือนว่า AI อาจนำไปสู่การล่มสลายของมนุษยชาติ ขณะที่อดีตนักวิจัยจากห้องทดลองเดียวกันอีกคนมองว่าความเสียหายรุนแรงอาจเกิดขึ้นได้ภายในห้าปีข้างหน้า
ประเด็นสำคัญ
- เชาก์ไตลาออกจาก DeepMind เมื่อเดือนกรกฎาคม และมองว่าซูเปอร์อินเทลลิเจนซ์อาจเกิดขึ้นได้ภายในไม่กี่ปี
- เขาเตือนว่างานวิจัยด้าน “การจัดแนว” (alignment) กำลังตามหลังความก้าวหน้าด้านศักยภาพของโมเดล และหนุนแนวคิด “ชะลอแข่งพัฒนา” ไม่ใช่หยุด AI
- อดีตนักวิจัย DeepMind อีกคนอย่าง จอช เองเกลส์ (Josh Engels) มองความเสี่ยงความเสียหายระดับมหาศาลภายในห้าปี ขณะที่บุคคลสำคัญจาก Anthropic และ OpenAI ก็ออกมาเรียกร้องให้เร่งจัดจังหวะการพัฒนาเช่นกัน
คำเตือนเรื่อง AI ของเชาก์ไต
เชาก์ไต อดีตวิศวกรวิจัยที่เคย โฟกัส ด้านความปลอดภัยและการจัดแนวของปัญญาประดิษฐ์ทั่วไป (AGI) ลาออกจาก DeepMind ในเดือนกรกฎาคม ก่อนเผยแพร่คำเตือนฉบับล่าสุดในสัปดาห์นี้
เขาระบุว่า ห้องทดลอง AI อาจสร้างระบบซูเปอร์อินเทลลิเจนซ์ได้ภายในไม่กี่ปีข้างหน้า ระบบดังกล่าวอาจฉลาดกว่ามนุษย์ในแทบทุกมิติ แต่กลับยากต่อการควบคุมให้เดินตามเป้าหมายของมนุษย์
เชาก์ไตชี้ว่า “ปัญหาหลัก” คือเรื่องการจัดแนว โดยเขาเขียนไว้ว่า “ผมเชื่ออย่างจริงจังว่า AI มีศักยภาพจะฆ่าพวกเราทุกคน และเราอาจเหลือเวลาไม่มากในการหลีกเลี่ยงฉากจบแบบนั้น”
เขามองว่า วิธีการฝึกระบบขั้นสูงในปัจจุบันให้ยึดมั่นและทำตามวัตถุประสงค์ของมนุษย์ได้อย่างเชื่อถือได้นั้นยังอยู่ในระดับ “เริ่มต้นมาก ๆ” ในขณะที่ศักยภาพของโมเดลแนวหน้ากลับเร่งตัวเร็วกว่าความเข้าใจด้านการจัดแนวของนักวิจัยอย่างชัดเจน
เชาก์ไตไม่ได้เรียกร้องให้ “หยุด” การพัฒนา AI แต่เสนอให้บริษัทต่าง ๆ ประสานงานกัน ลดการแข่งขันแบบเร่งสปีด และเปิดเผยความโปร่งใสมากขึ้นเกี่ยวกับวิธีสร้างและทดสอบระบบแนวหน้าเหล่านี้
อ่านเพิ่มเติม: ร่างกฎหมาย CLARITY ลุ้นด่านโหวต 60 เสียงในวุฒิสภา ท่ามกลางกระแสต้านที่เพิ่มสูง
การเร่งเกมความปลอดภัยของ Anthropic
คำเตือนของเชาก์ไตเกิดขึ้นถัดจากการลาออกของ เจคอบ ค็อกซอน (Jacob Coxon) เมื่อต้นเดือนนี้ หลังทำงานสามปีใน Anthropic และ OpenAI โดยหัวหน้าทีมวิทยาศาสตร์ด้านการจัดแนวของ Anthropic อย่าง อีแวน ฮูบิงเกอร์ (Evan Hubinger) เคยระบุภายหลังว่า เขาเชื่อว่ามีโอกาสมากกว่า 10% ที่ AI จะล้างเผ่าพันธุ์มนุษย์ทั้งหมด ภายในทศวรรษหน้า
เองเกลส์ ซึ่งเคยเป็นส่วนหนึ่งของทีมความปลอดภัยของ DeepMind เช่นกัน เปิดเผยเมื่อวันที่ 12 กันยายนว่า เขาเลือกไปร่วมงานกับองค์กรไม่แสวงกำไรด้านการประเมินความเสี่ยงอย่าง METR หลังปฏิเสธข้อเสนอจาก Anthropic และ OpenAI โดยให้เหตุผลว่ามี “โอกาสที่น่าหวาดกลัว” ต่อความเสียหายจาก AI ในระดับมหาศาลภายในห้าปี
ด้านซีอีโอ Anthropic อย่าง ดาริโอ อาโมเดอี (Dario Amodei) เคยเรียกร้องให้บริษัทต่าง ๆ ชะลอจังหวะการเพิ่มความสามารถของโมเดล ขณะที่ซีอีโอ OpenAI อย่าง แซม ออลต์แมน (Sam Altman) ก็สนับสนุนท่าทีดังกล่าวในช่วงที่ดีเบตเรื่องนี้ขยายตัวในหมู่ห้องทดลองชั้นนำ
ความเห็นที่สอดคล้องกันนี้มีน้ำหนักมากขึ้น เพราะคำเตือนไม่ได้มาจากแค่ฝ่ายวิจัยความปลอดภัยที่ลาออก แต่ยังรวมถึงผู้บริหารระดับสูงที่กำลังขับเคลื่อนห้องทดลอง AI รายใหญ่ด้วย
สัญญาณเตือนระลอกล่าสุดสะท้อนถึงการเปลี่ยนผ่านแบบรวดเร็ว นับตั้งแต่ช่วงต้นปี 2022 ตอนที่เชาก์ไตเพิ่งเริ่มทำงานด้าน AI และอธิบายว่าระบบในขณะนั้นยังห่างไกลจากโมเดลแนวหน้าที่เราเห็นในวันนี้ ภายในเวลาเพียงไม่กี่ปี การถกเถียงได้เคลื่อนจากทฤษฎีด้านความปลอดภัยระยะยาว มาสู่ประเด็นเชิงรูปธรรมเรื่องความเป็นอิสระของระบบ การจัดแนว และคำถามสำคัญว่าการวิจัยด้านความปลอดภัยจะวิ่งทันความก้าวหน้าของศักยภาพโมเดลได้หรือไม่
เรื่องถัดไปที่ควรอ่าน: Bitget เปิด API ครอบคลุมทองคำ ฟอเร็กซ์ ดัชนี และน้ำมันดิบ
