อดีตนักวิจัยด้านความปลอดภัยของ Google DeepMind อย่าง บิลัล ชักไต (Bilal Chughtai) ออกมาเตือนว่า AI อาจนำไปสู่จุดจบของมนุษยชาติ ขณะที่อดีตนักวิจัยห้องแล็บอีกรายประเมินว่าความเสียหายรุนแรงอาจเกิดขึ้นภายในห้าปี
ประเด็นสำคัญ
- ชักไติลาออกจาก DeepMind เมื่อเดือนก.ค. และมองว่าซูเปอร์อินเทลลิเจนซ์อาจเกิดขึ้นได้ในไม่กี่ปีข้างหน้า
- เขาระบุว่างานวิจัยด้านการจัดแนว (alignment) ล้าหลังการเติบโตด้านขีดความสามารถของโมเดล และสนับสนุนให้ “ชะลอ” การพัฒนา AI อย่างมีการประสานงาน ไม่ใช่หยุดทั้งหมด
- อดีตนักวิจัย DeepMind อย่าง จอช เองเกลส์ (Josh Engels) เห็นความเสี่ยงของความเสียหายระดับร้ายแรงภายในห้าปี ขณะที่คนจาก Anthropic และ OpenAI หลายรายก็ออกมาหนุนให้เดินหน้าอย่างระมัดระวังมากขึ้น
คำเตือน AI จากชักไต
ชักไต อดีตวิศวกรวิจัยซึ่งเคย มุ่งเน้น งานด้านความปลอดภัยและการจัดแนวของปัญญาประดิษฐ์ทั่วไป (AGI) ลาออกจาก DeepMind เมื่อเดือนก.ค.ที่ผ่านมา และเผยแพร่คำเตือนของเขาในสัปดาห์นี้
เขาระบุว่าห้องแล็บ AI อาจสร้างระบบซูเปอร์อินเทลลิเจนซ์ได้ภายในไม่กี่ปีข้างหน้า ซึ่งมีศักยภาพเหนือมนุษย์แทบทุกด้าน แต่กลับควบคุมให้สอดคล้องกับเป้าหมายของมนุษย์ได้ยาก
ชักไตชี้ว่า “การจัดแนว” คือปัญหาแกนกลาง โดยเขาเขียนไว้ว่า “ผมเชื่ออย่างจริงจังว่า AI มีศักยภาพที่จะฆ่าพวกเราทุกคน และเราอาจเหลือเวลาไม่มากในการหลีกเลี่ยงจุดจบนั้น”
เขามองว่าเครื่องมือและวิธีการฝึกระบบขั้นสูงให้ยึดมั่นเป้าหมายของมนุษย์ในปัจจุบันนั้น “ยังดิบมาก” ในขณะที่ขีดความสามารถของโมเดลแนวหน้าเดินหน้าเร็วกว่า “ความเข้าใจด้านการจัดแนว” ของนักวิจัยอย่างเห็นได้ชัด ทั้งนี้ เขาไม่ต้องการให้หยุดการพัฒนา AI แต่เสนอให้บริษัทต่าง ๆ ร่วมกัน “ชะลอการแข่งขัน” เปิดเผยข้อมูลให้มากขึ้นเกี่ยวกับวิธีสร้างและทดสอบระบบแนวหน้าเหล่านี้
อ่านเพิ่มเติม: กฎหมาย CLARITY ลุ้นด่านโหวต 60 เสียงในวุฒิสภาท่ามกลางกระแสคัดค้าน
แรงผลักดันด้านความปลอดภัยของ Anthropic
คำเตือนของชักไตเกิดขึ้นต่อเนื่องจากการลาออกของ เจค็อบ ค็อกซัน (Jacob Coxon) เมื่อต้นเดือน หลังทำงานด้าน AI มา 3 ปีทั้งที่ Anthropic และ OpenAI โดยต่อมา อีวาน ฮับพิงเจอร์ (Evan Hubinger) ผู้นำทีมวิทยาศาสตร์ด้านการจัดแนวของ Anthropic ระบุว่า เขาเชื่อว่ามีโอกาสมากกว่า 10% ที่ AI อาจฆ่ามนุษย์ทั้งหมด ภายในทศวรรษหน้า
เองเกลส์ อดีตทีมความปลอดภัยของ DeepMind เปิดเผยเมื่อวันที่ 12 ก.ย. ว่าเขาเลือกไปทำงานกับองค์กรไม่แสวงกำไรด้านการประเมินความเสี่ยง METR หลังปฏิเสธข้อเสนอจาก Anthropic และ OpenAI โดยให้เหตุผลว่ามี “โอกาสที่น่าหวาดหวั่น” ที่ AI จะสร้างความเสียหายรุนแรงภายในห้าปี
ดาริโอ อาโมเดอี (Dario Amodei) ซีอีโอของ Anthropic เคยออกมาเรียกร้องให้บริษัทต่าง ๆ “คุมจังหวะ” การเพิ่มขีดความสามารถของโมเดล ซึ่งสอดคล้องกับจุดยืนของ แซม อัลต์แมน (Sam Altman) ซีอีโอ OpenAI ขณะที่การถกเถียงเรื่องนี้เริ่มลุกลามไปทั่วห้องแล็บชั้นนำ การที่ฝ่ายบริหารระดับสูงและอดีตนักวิจัยด้านความปลอดภัยออกมาเตือนตรงกัน ยิ่งเพิ่มน้ำหนักให้กับสัญญาณอันตรายเหล่านี้
สัญญาณเตือนรอบใหม่เกิดขึ้นหลังการเปลี่ยนผ่านที่รวดเร็วตั้งแต่ต้นปี 2022 เมื่อชักไตเริ่มทำงานด้าน AI และมองว่าระบบยังห่างไกลจากโมเดลแนวหน้าปัจจุบันอย่างมาก ในช่วงสี่ปีที่ผ่านมา การถกเถียงพัฒนาจาก “ทฤษฎีความปลอดภัยระยะยาว” มาสู่ข้อกังวลเชิงรูปธรรมเกี่ยวกับความเป็นอิสระของระบบ (autonomy) ปัญหาการจัดแนว และคำถามใหญ่ที่ว่างานวิจัยด้านความปลอดภัยจะไล่ทันการเติบโตของขีดความสามารถได้หรือไม่
อ่านต่อ: API ของ Bitget รองรับเทรดทอง ฟอเร็กซ์ ดัชนี และน้ำมันดิบแล้ว
