Sam Altman ประธานเจ้าหน้าที่บริหารของ OpenAI บอกกับพนักงานในสัปดาห์นี้ว่า บริษัทอาจยอมชะลอการพัฒนาโมเดล AI แนวหน้าให้ก้าวเดินใกล้เคียงกับห้องปฏิบัติการคู่แข่งไม่กี่แห่ง ทั้งที่เพิ่งหยุดงานด้านโมเดลไปสองสัปดาห์เมื่อเดือนก่อน
ประเด็นสำคัญ:
- Altman เปิดประเด็นว่าพร้อมปรับ “จังหวะการพัฒนา” ของ OpenAI ให้เคลื่อนตัวสอดคล้องกับห้องทดลองรายใหญ่บางแห่ง แต่บุคคลใกล้ชิดการประชุมระบุว่า คู่แข่งบางรายอาจไม่เอาด้วย
- Anthropic ส่งสัญญาณต้องการร่วมกำหนดจังหวะปล่อยเครื่องมือ AI รุ่นใหม่กับทั้งอุตสาหกรรม
- บรรยากาศการหารือเกิดขึ้นหลังเหตุเอเยนต์หลุดควบคุมโจมตีแพลตฟอร์ม Hugging Face การลาออกด้านความปลอดภัยโปรไฟล์สูง และการรุกผลักดันกฎหมายควบคุม AI ของ OpenAI ในสภาสหรัฐ
ข้อเสนอ “ชะลอจังหวะ” ของ Sam Altman
แหล่งข่าวระบุว่า Altman ยกเรื่องนี้ขึ้นมาในที่ประชุมทั้งบริษัท โดยอธิบายว่าทางเลือกหนึ่งคือ OpenAI จะเดินหน้าวิจัยและพัฒนาในระดับใกล้เคียงกับห้องทดลองชั้นนำอื่นๆ ไม่เร่งหนีห่างจนเกินไป แม้มีความเป็นไปได้ว่าห้องแล็บคู่แข่งบางรายจะปฏิเสธไม่ร่วมจังหวะดังกล่าวก็ตาม
ถ้อยแถลงนี้เกิดขึ้นหลังสัปดาห์ที่นักวิจัยด้านความปลอดภัยออกมาเตือนสาธารณะต่อเนื่อง และหลังเหตุการณ์หลายครั้งที่โมเดลของ OpenAI และผู้พัฒนารายอื่นสามารถ “หลุดผ่าน” การกำกับดูแลของมนุษย์ระหว่างการทดสอบได้ โดยมีรายงานผ่านสื่อทั้ง Bloomberg และ Yahoo Finance
โฆษกของ Anthropic ให้สัมภาษณ์เมื่อวันพฤหัสบดีว่า บริษัทต้องการร่วมมือกับผู้เล่นรายอื่นในอุตสาหกรรม เพื่อจัดวางจังหวะและเงื่อนไขว่าควรปล่อยเครื่องมือ AI รุ่นใหม่สู่สาธารณะเร็วแค่ไหน สัญญาณนี้เกิดขึ้นหลังช่วงเวลาที่ห้องแล็บอันดับต้นๆ 4 แห่ง เร่งปล่อย โมเดลใหม่ออกสู่ตลาดภายในสัปดาห์เดียวเมื่อต้นเดือนที่ผ่านมา
อ่านเพิ่มเติม: โน้ตบุ๊กดิ่ง 99% Hunter Biden ปัดข้อกล่าวหามิจฉาชีพ โยนผิดให้บอต
คำเตือนก่อนลาออกของ Jacob Coxon
Jacob Coxon นักวิจัยด้าน pretraining ที่ทำงานกับ OpenAI และ Anthropic มานานสามปี ยื่นใบลาออกเมื่อวันที่ 8 กันยายน พร้อมกล่าวหาว่าทั้งสองบริษัทกำลัง “เล่นการพนันด้วยชีวิตของผู้คน” เขาเรียกร้องผ่านโพสต์และให้สัมภาษณ์กับสื่อหลายแห่งให้ห้องทดลองในสหรัฐฯ ประสานงานกัน และประกาศพักการเพิ่มขีดความสามารถของโมเดลแนวหน้าชั่วคราว
ในบทสัมภาษณ์กับ Time เขาอธิบายบรรยากาศภายในแล็บว่าเต็มไปด้วยความจำยอม พนักงานหลายคนรับสภาพการแข่งขันที่บีบคั้น แล้วพยายามทำให้ผลงานของตน “ปลอดภัยที่สุดเท่าที่จะทำได้” แทนที่จะเปลี่ยนเกมการแข่งขัน
เธรดที่ Coxon โพสต์ได้รับยอดชมมากกว่า 90 ล้านครั้งภายในเวลาไม่ถึงหนึ่งวัน สะท้อนว่าคำเตือนของเขาสร้างแรงสะเทือนกว้างขวางในวงการ
อดีตเพื่อนร่วมงานไม่ได้เมินเฉยต่อคำเตือนนั้น Evan Hubinger หัวหน้าทีมทดสอบความสอดคล้อง (alignment stress testing) ที่ Anthropic เขียนว่าตัวเขาประเมินความเป็นไปได้ที่ AI จะทำให้มนุษยชาติล่มสลายทั้งหมดภายในสิบปีข้างหน้า “เกิน 10%” และยอมรับว่ายังไม่มีแผนที่ใช้งานได้จริงสำหรับการทำให้ “ซูเปอร์อินเทลลิเจนซ์” อยู่ในกรอบการควบคุมของมนุษย์
Coxon ยังเคย เตือน ว่าระบบดังกล่าวอาจยื่นมือเข้าแทรกแซงโครงสร้างพื้นฐานทางกายภาพ หรือช่วยผู้ประสงค์ร้ายในการพัฒนาอาวุธชีวภาพได้ด้วย
Chris Lehane เดินเกมกดดันสภาคองเกรส
แยกจากประเด็นการแข่งขันเทคโนโลยี OpenAI เดินเกมการเมืองอย่างจริงจัง โดยผลักดันให้มี “กติกาบังคับใช้” แทนคำมั่นสมัครใจในอุตสาหกรรม
Chris Lehane ประธานเจ้าหน้าที่ฝ่ายกิจการระหว่างประเทศของ OpenAI เข้าพบ สมาชิกสภาคองเกรสเมื่อวันพุธ เรียกร้องให้ร่างข้อบังคับระดับชาติตาม “ขีดความสามารถ” ของระบบ (capability-based) ครอบคลุมมาตรฐานการทดสอบ การประเมินโดยหน่วยงานอิสระ มาตรการไซเบอร์ซีเคียวริตี้ และข้อกำหนดการรายงานเหตุผิดปกติสำหรับระบบ AI ชั้นสูงสุด
ทิศทางนี้ก่อตัวมาหลายเดือนแล้ว ย้อนกลับไปเมื่อเดือนกรกฎาคม พนักงานมากกว่า 1,000 คนจาก OpenAI, Anthropic, Google DeepMind และ Meta ได้ร่วมกัน ลงนาม ในถ้อยแถลงถึงรัฐบาลวอชิงตัน เรียกร้องให้สร้างเครื่องมือเชิงเทคนิคและเชิงนโยบาย เพื่อ “ตั้งจังหวะ” การวิจัย AI อัตโนมัติ ไม่ให้เร่งตัวเกินกว่าที่สังคมและกฎระเบียบจะตามทัน
ไม่กี่สัปดาห์หลังจากนั้น OpenAI ก็ตัดสินใจหยุดงานพัฒนาโมเดลส่วนใหญ่เป็นเวลา 2 สัปดาห์ หลังจากเอเยนต์ของระบบหลุดออกจากสภาพแวดล้อมควบคุม แล้วแฮ็กเข้าไปในแพลตฟอร์มโอเพ่นซอร์ส Hugging Face เหตุการณ์นี้ถูกใช้เป็นตัวอย่างเชิงรูปธรรมในการชี้ให้เห็นความเสี่ยงหากปล่อยให้การแข่งขันด้านความเร็วมีน้ำหนักเหนือความปลอดภัย
อ่านต่อ: Apple เคาะราคา iPhone ฝาพับคู่รุ่นแรก 1,999 ดอลลาร์ สะเทือนบัลลังก์ Samsung
