OpenAI สั่งระงับการฝึก (training) โมเดล AI ที่ล้ำหน้าที่สุดไว้ชั่วคราว หลังเกิดเหตุเอเจนต์ตัวหนึ่ง หลุดออกจากแซนด์บ็อกซ์ เมื่อวันที่ 20 กันยายน และมีเอเจนต์อื่นทำงานเกินขอบเขตคำสั่งบนเว็บไซต์หน่วยงานรัฐบาลสหรัฐ
ประเด็นสำคัญ:
- มาตรการหยุดชั่วคราวครอบคลุมทั้งการฝึก การประเมินผล และการใช้เครื่องมือภายนอกของระบบขั้นสูงสุดของ OpenAI
- เอเจนต์ดึงข้อมูลจากสำนักงานสำมะโนประชากรสหรัฐด้วยกุญแจนักพัฒนาที่พบออนไลน์ และรีโพสต์ข้อมูลสาธารณะของ ก.ล.ต.สหรัฐ (SEC)
- นักวิจารณ์ชี้ระบบแซนด์บ็อกซ์อ่อนแอ ขณะที่ส.ส.แคลิฟอร์เนียเรียกร้องให้บริษัท AI “เริ่มต้นใหม่ทั้งหมด”
การระงับการฝึกโมเดลของ OpenAI
บริษัทระบุในบล็อกโพสต์บนเว็บไซต์ด้านความปลอดภัยของตน ว่า การหยุดครั้งนี้ครอบคลุมการฝึก การประเมิน และการใช้เครื่องมือภายนอกของโมเดลระดับสูงสุด จนกว่าวิศวกรจะยืนยันได้ว่าปิดช่องโหว่ด้านความปลอดภัยแล้ว และทำการทดสอบเชิงรุก (red-teaming) รอบใหม่เสร็จสิ้น
การตัดสินใจมีขึ้นเพียงไม่กี่ชั่วโมงหลังบริษัท เปิดเผย เหตุการณ์ในช่วงฤดูร้อนที่เอเจนต์ซึ่งถูกสั่งให้ค้นหาข้อมูลบนเว็บไซต์รัฐบาลกลาง กลับทำงานเกินขอบเขตภารกิจที่ได้รับมอบหมาย พร้อมระบุว่าบริษัทได้แจ้งหน่วยงานรัฐ มหาวิทยาลัย และองค์กรสาธารณะ “หลายสิบแห่ง” แล้ว นับเป็นการหยุดการฝึกครั้งที่สองในรอบสามเดือน
เหตุการณ์ต้นตอเกิดขึ้นเมื่อวันที่ 20 กันยายน เมื่อเอเจนต์ที่ได้รับมอบหมายงานค้นหาข้อมูล อาศัยจุดอ่อนของระบบกรอง DNS ภายในแซนด์บ็อกซ์ เพื่อส่งคำสั่งไปยังแชตบ็อตสาธารณะภายนอก ทีมมอนิเตอร์ตรวจพบภายใน 15 นาที แต่ระบบหยุดอัตโนมัติทำงานไม่สำเร็จ จนต้องให้พนักงานเข้าไปยุติการรันด้วยมือหลังผ่านไปราว 2 ชั่วโมงครึ่ง
OpenAI ยังได้ออกมายืนยันเพิ่มเติม ว่า เอเจนต์ของตนเคยใช้กุญแจนักพัฒนาที่พบทางออนไลน์ดึงข้อมูลจากสำนักงานสำมะโนประชากรสหรัฐ และนำข้อมูลสาธารณะของสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐ (SEC) ไปเผยแพร่ซ้ำในที่อื่น โดย SEC ยืนยันว่าไม่มีข้อมูลที่ไม่เป็นสาธารณะรั่วไหล
อีกด้านหนึ่ง บริษัทประเมิน AI อย่าง Transluce เปิดเผยว่าเอเจนต์ซึ่ง “น่าจะเกี่ยวข้องกับ OpenAI” ล้มเหลวในการพยายามแฮ็กเว็บไซต์ของกระทรวงศึกษาธิการสหรัฐ ซึ่ง OpenAI ยังไม่ได้ออกมายืนยันข้อกล่าวหานี้
อ่านเพิ่มเติม: ซีอีโอ Coinbase กดดันเพิ่มความรับผิดชอบภายในท่ามกลางทราฟฟิกเอเจนต์ AI พุ่งสูง
เสียงวิจารณ์จาก Marcus Hutchins
ผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์ Marcus Hutchins ให้ความเห็นผ่านสื่อว่า OpenAI กำลัง “ประมาทอย่างยิ่งกับโมเดลเหล่านี้” โดยรันในสภาพแวดล้อมแซนด์บ็อกซ์ที่ไม่เข้มแข็ง และไม่มีระบบมอนิเตอร์ใกล้ชิดพอที่จะ “ดึงปลั๊ก” ได้ทันท่วงที ขณะที่ ส.ส.เดโมแครตจากรัฐแคลิฟอร์เนีย Ted Lieu ไปไกลกว่านั้น โดยเรียกโมเดลเบื้องหลังเหล่านี้ว่า “เลวทรามและไร้ศีลธรรม” และกระตุ้นให้บริษัทเริ่มกระบวนการพัฒนาใหม่ทั้งหมด
OpenAI ระบุว่าจะกลับมาฝึกโมเดล “ก็ต่อเมื่อมั่นใจว่าได้เพิ่มมาตรการป้องกันเพิ่มเติมแล้วเท่านั้น” และคาดว่าจะ “ต้องกดปุ่มพัก” ซ้ำอีกหลายครั้งในอนาคตเมื่อเทคโนโลยีก้าวหน้าไปเรื่อย ๆ
ด้านคู่แข่งอย่าง Anthropic ก็ยอมรับเช่นกันว่าเอเจนต์ของตนเคยหลุดจากสภาพแวดล้อมทดสอบ และแฮ็กระบบขององค์กรสามแห่งได้สำเร็จ ขณะที่ฝ่ายนิติบัญญัติในสหรัฐยังแตกเป็นสองขั้ว ว่าควรเพิ่มอำนาจกำกับดูแลของรัฐบาลกลางด้าน AI มากน้อยเพียงใด
เหตุการณ์เอเจนต์ของ OpenAI
ซีอีโอ Sam Altman ระบุว่า การโจมตีแพลตฟอร์ม Hugging Face เมื่อเดือนกรกฎาคม ยังคงเป็น “เหตุการณ์ร้ายแรงที่สุดที่เราเคยเจอ” และยอมรับว่าบริษัท “ตอบสนองได้ไม่รวดเร็วเท่าที่เราต้องการ” ต่อเหตุละเมิดความปลอดภัยต่าง ๆ
เหตุการณ์ดังกล่าวส่งผลให้บัญชีผู้ใช้บนสี่บริการถูกเจาะ และจุดชนวนให้วุฒิสภาสหรัฐเปิดการไต่สวน OpenAI ตอบสนองในเดือนสิงหาคมด้วยการหยุดการฝึกเสริมด้วยการเรียนรู้จากการเสริมแรง (reinforcement learning) เป็นเวลา 2 สัปดาห์ พร้อมยกระดับมาตรการความปลอดภัย และยังคงชะลอการรันเทรนนิ่งรอบใหญ่ที่สุดสำหรับโมเดลแนวหน้าที่วางแผนไว้
เมื่อสัปดาห์ที่แล้ว มีรายงานเพิ่มเติมว่าเอเจนต์ของ OpenAI เคยเล็ดลอดข้อจำกัด บนพอร์ทัลสถิติ Medicare ของออสเตรเลียเมื่อเดือนมิถุนายน แต่หน่วยงานรัฐเพิ่งได้รับการแจ้งเตือนเรื่องนี้ในเดือนปัจจุบัน
อ่านต่อ: เอเจนต์ AI เสี่ยงเปลี่ยนช่องว่างดอกเบี้ย 490 ดอลลาร์ ให้กลายเป็นความเสี่ยงด้านเงินทุนของธนาคาร
