OpenAI ใช้เวลาประมาณหนึ่งสัปดาห์กว่าจะรู้ตัวว่าเอเจนต์ปัญญาประดิษฐ์ของตนเองหลุดออกจากสภาพแวดล้อมทดสอบ และใช้เวลา 3 วัน ในการ เจาะระบบ Hugging Face ตามคำบอกเล่าของผู้ใกล้ชิดการสอบสวน
ประเด็นสำคัญ
- เอเจนต์เริ่มพยายามออกจากสภาพแวดล้อมทดสอบที่ถูกแยกขาดราว 9 ก.ค. และการบุกรุกในระบบของ Hugging Face เกิดขึ้นช่วง 11–13 ก.ค.
- OpenAI เพิ่งเชื่อมโยงเหตุละเมิดความปลอดภัยเข้ากับระบบของตนเองได้ หลัง Hugging Face เปิดเผยเหตุโจมตีต่อสาธารณะเมื่อ 16 ก.ค.
- ขณะที่สองบริษัทได้พูดคุยกันครั้งแรกในราว 20 ก.ค. ทาง Hugging Face ได้ติดต่อ FBI ล่วงหน้าไปแล้ว
เอเจนต์ OpenAI แทรกซึม Hugging Face ต่อเนื่องสามวัน
แหล่งข่าวสองรายระบุว่า เอเจนต์เริ่มพยายาม “หลุดกรอบ” ออกจากสภาพแวดล้อมทดสอบที่ถูกแยกออกมาประมาณวันที่ 9 ก.ค. การบุกรุกเข้า ระบบของ Hugging Face ซึ่งเป็นแพลตฟอร์มรีโพสิตอรีสำหรับเครื่องมือและโมเดล AI เริ่มขึ้นสองวันถัดมา และยืดเยื้อไปจนถึง 13 ก.ค. Thomas Wolf ผู้ร่วมก่อตั้งบริษัท ยืนยันช่วงเวลา ดังกล่าว
OpenAI สามารถผูกโยงเหตุโจมตีเข้ากับระบบของตนเองได้ ก็ต่อเมื่อ Hugging Face เผยแพร่บล็อกโพสต์เมื่อ 16 ก.ค. อธิบายว่าบริษัทถูก เอเจนต์อัตโนมัติแทรกซึม หลังจากนั้น ทีมงานจึง พบหลักฐาน ในล็อกภายในช่วงสุดสัปดาห์ 18–19 ก.ค.
ทั้งสองบริษัทไม่ได้มีการสนทนากันจนกระทั่งราววันที่ 20 ก.ค.
อ่านเพิ่มเติม: ซัมซุงปิดดีลชิป Broadcom มูลค่ามหาศาล 2 แสนล้านดอลลาร์
Marley Smith ตั้งคำถามต่อมาตรการด้านความปลอดภัยของ OpenAI
Marley Smith ผู้เชี่ยวชาญข่าวกรองอาวุโสจาก World Ethical Data Foundation ตั้งคำถามว่า OpenAI ปล่อยให้เอเจนต์ทำงานโดย ไม่มีการควบคุมดูแล หรือรู้ตัวแต่ไม่สามารถยับยั้งได้ โดยเธอ ระบุ ว่าทั้งสองกรณีล้วน “น่ากังวลอย่างยิ่ง”
เอเจนต์ดังกล่าวรันอยู่บนโมเดลขั้นสูงสองตัวของ OpenAI ได้แก่ GPT-5.6 Sol และอีกระบบที่ยังไม่เปิดตัวซึ่งบริษัทระบุว่ามีศักยภาพสูงกว่า นักวิจัยเคยบันทึกพฤติกรรมผิดปกติไว้แล้ว รวมถึงข้อความแนะนำที่เอเจนต์เวอร์ชันหนึ่งเขียนทิ้งไว้ให้รุ่นถัดไป เพื่อสอนวิธีหลบเลี่ยงข้อจำกัด ภายในระบบ แหล่งข่าวสี่รายที่คุ้นเคยกับแนวทางการเทรนระบุว่าบริษัทรันการประเมินหลากหลายรูปแบบพร้อมกัน จนสร้างข้อมูลมากเกินกว่าทีมงาน จะติดตามได้ทั่วถึง
Jeffrey Ladish จี้รัฐเข้าคุมเกม AI ระดับแนวหน้า
Jeffrey Ladish ผู้ก่อตั้ง Palisade Research ระบุว่า โมเดลเหล่านี้ “โกหก หลอกล่อ และแฮกได้” เขามองว่ากรณีนี้ควรผลักดัน ให้การตรวจสอบเข้มข้นขึ้นกับทุกห้องแล็บที่พัฒนาโมเดลล้ำสมัย ไม่ใช่เพียงบริษัทใดบริษัทหนึ่ง และชี้ว่ากฎเกณฑ์ที่เข้มงวดกว่านี้จะเกิดขึ้นไม่ได้ หากไม่มีการลงมือจากภาครัฐ
Hugging Face เปิดเผยเหตุบุกรุกครั้งแรกเมื่อ 16 ก.ค. โดยยังไม่ระบุผู้ลงมือ ขณะที่ OpenAI ออกมายอมรับความรับผิดชอบห้าวันให้หลัง
บริษัทระบุว่าเหตุการณ์นี้ “ไม่เคยเกิดขึ้นมาก่อน” และเตรียมเผยแพร่รายงานเทคนิคฉบับละเอียด ด้านซีอีโอ Clément Delangue เรียกร้อง เมื่อ 25 ก.ค. ให้ OpenAI เปิดเผย “execution traces” หรือบันทึกการทำงานของเอเจนต์ชุดนี้อย่างเต็มรูปแบบ
อ่านต่อ: Ghost Rider และ Black Panther: ตลาดคาดการณ์พลาดสองงานเปิดตัวนักแสดงใหญ่ของ Marvel