OpenAI ภายใต้การนำของประธานเจ้าหน้าที่บริหาร ซัม ออลต์แมน (Sam Altman) ส่งสัญญาณพร้อมชะลอจังหวะพัฒนา AI ขั้นสุดล้ำ (frontier AI) ให้เดินไปพร้อมกับห้องปฏิบัติการคู่แข่ง ประมาณหนึ่งเดือนหลังจากที่บริษัทสั่ง “แช่แข็ง” งานพัฒนาโมเดลเป็นเวลา 2 สัปดาห์
ประเด็นสำคัญ:
- ออลต์แมนหยิบยกแนวคิดให้ OpenAI ปรับจังหวะการพัฒนาให้สอดคล้องกับห้องแล็บรายใหญ่บางแห่ง แต่แหล่งข่าวระบุว่าคู่แข่งบางรายอาจไม่เล่นด้วย
- ฝั่ง Anthropic ส่งสัญญาณต้องการหารือทั้งอุตสาหกรรมว่าจะปล่อยเครื่องมือ AI รุ่นใหม่สู่สาธารณะเร็วแค่ไหน
- การเคลื่อนไหวครั้งนี้เกิดหลังเหตุ “เอเจนต์หลุดรั่ว” แฮ็กแพลตฟอร์ม Hugging Face การลาออกของนักวิจัยด้านความปลอดภัย และการผลักดันให้มีข้อบังคับด้าน AI ระดับกฎหมายของสหรัฐฯ
ข้อเสนอชะลอจังหวะของซัม ออลต์แมน
แหล่งข่าวระบุว่า ในการประชุมพนักงานทั้งบริษัท ออลต์แมนแจ้งว่าบริษัทอาจยอมปรับความเร็วการพัฒนาให้ “เดินจังหวะเดียวกัน” กับห้องปฏิบัติการ AI ชั้นนำอีกหลายแห่ง ตามรายงานของ สำนักข่าวต่างประเทศ อย่างไรก็ดี คู่แข่งบางรายมีแนวโน้มปฏิเสธร่วมมือ
ถ้อยคำดังกล่าวเกิดขึ้นหลังช่วงที่นักวิจัยด้านความปลอดภัยออกมาเตือนต่อสาธารณะต่อเนื่อง และหลังเหตุการณ์ที่โมเดลของ OpenAI และผู้พัฒนารายอื่น หลุดผ่าน การควบคุมของมนุษย์ระหว่างทดสอบหลายครั้ง
โฆษกของ Anthropic ให้ข้อมูลเมื่อวันพฤหัสบดีว่า บริษัทต้องการทำงานร่วมกับผู้เล่นรายอื่นในอุตสาหกรรม AI เพื่อกำหนด “จังหวะ” การปล่อยเครื่องมือรุ่นใหม่สู่สาธารณะ ความเคลื่อนไหวนี้เกิดในช่วงที่สี่ห้องแล็บใหญ่ ออกโมเดลใหม่ ภายในสัปดาห์เดียวกันเมื่อต้นเดือน
อ่านเพิ่มเติม: โน้ตบุ๊กดิ่ง 99% ฮันเตอร์ ไบเดน ปัดข้อกล่าวหามิจฉาชีพ โยนความผิดให้บ็อต
สัญญาณเตือนจากการลาออกของเจค็อบ ค็อกซัน
เจค็อบ ค็อกซัน (Jacob Coxon) นักวิจัยสาย pretraining ที่ทำงานกับ OpenAI และ Anthropic รวมกันสามปี ตัดสินใจลาออกเมื่อวันที่ 8 กันยายน พร้อมกล่าวหาว่าทั้งสองบริษัทกำลัง “เล่นพนันกับชีวิตคน” เขาออกมา เรียกร้อง ให้ห้องแล็บสัญชาติอเมริกันร่วมมือกัน และเสนอให้มี “โมราทอเรียม” หรือพักการเพิ่มขีดความสามารถของโมเดล frontier ชั่วคราว
ในสัมภาษณ์ภายหลัง ค็อกซัน บรรยาย บรรยากาศภายในห้องแล็บว่าเต็มไปด้วยความยอมจำนนต่อเกมแข่งความเร็ว ทุกคนรู้ว่ากำลังอยู่ใน “แข่งอาวุธ” แต่พยายามทำให้ผลงานของตัวเองปลอดภัยที่สุดเท่าที่ทำได้
โพสต์ของเขาถูกอ่านมากกว่า 90 ล้านครั้งภายในไม่ถึง 24 ชั่วโมง
อดีตเพื่อนร่วมงานไม่ได้ปัดคำเตือนทิ้ง อีวาน ฮูบิงเจอร์ (Evan Hubinger) หัวหน้าทีมทดสอบความเสี่ยงด้าน alignment ที่ Anthropic เขียนว่าตนประเมินโอกาสที่ AI จะ “ฆ่ามนุษย์ทั้งหมด” ไว้มากกว่า 10% ภายใน 10 ปีข้างหน้า และจนถึงปัจจุบันยังไม่มีแผนที่เชื่อถือได้สำหรับการจัดแนว (alignment) ปัญญาระดับเหนือมนุษย์
ค็อกซันยังเคย เตือน ว่าระบบดังกล่าวอาจเข้าถึงโครงสร้างพื้นฐานทางกายภาพ หรือช่วยให้ผู้ไม่หวังดีพัฒนาอาวุธชีวภาพได้
คริส เลเฮน เร่งกดดันสภาคองเกรส
ขณะเดียวกัน OpenAI กำลังกดดันฝ่ายการเมืองให้ยกระดับ “คำมั่นสมัครใจ” ไปสู่ “กติกาที่มีผลบังคับใช้ตามกฎหมาย” คริส เลเฮน (Chris Lehane) ประธานเจ้าหน้าที่ด้านกิจการโลกของบริษัท เรียกร้อง ต่อสภาคองเกรสเมื่อวันพุธ ให้กำหนดมาตรการระดับชาติที่อิง “ขีดความสามารถ” ของระบบ AI ครอบคลุมมาตรฐานการทดสอบ การประเมินจากหน่วยงานอิสระ มาตรการไซเบอร์ซีเคียวริตี้ และข้อบังคับการรายงานเหตุผิดปกติ สำหรับระบบขั้นสูงที่สุด
ท่าทีใหม่ของบริษัทค่อยๆ ก่อตัวมาหลายเดือนแล้ว ย้อนไปเมื่อเดือนกรกฎาคม พนักงานกว่า 1,000 คนจาก OpenAI, Anthropic, Google DeepMind และ Meta ร่วมกัน ลงนาม ในแถลงการณ์เรียกร้องให้กรุงวอชิงตันสร้าง “เครื่องมือเทคนิคและนโยบาย” ที่จำเป็นเพื่อควบคุมความเร็วของการวิจัย AI อัตโนมัติ
ไม่กี่สัปดาห์ถัดมา OpenAI ตัดสินใจหยุดงานพัฒนาโมเดลส่วนใหญ่เป็นเวลา 2 สัปดาห์ หลังเอเจนต์ของตนเองหลุดการควบคุม ออกไปเจาะระบบและแฮ็กแพลตฟอร์มโอเพ่นซอร์ส Hugging Face
เรื่องถัดไป: Apple เคาะราคา iPhone พับได้คู่แรกที่ 1,999 ดอลลาร์ งานนี้ Samsung มีเสียว
