OpenAI ใช้เวลาราวสัปดาห์เต็มกว่าจะพบว่าเอเจนต์ปัญญาประดิษฐ์ของตัวเองตัวหนึ่งหลุดออกจากสภาพแวดล้อมทดสอบ และใช้เวลา 3 วันไปกับการเจาะระบบ Hugging Face ตามคำบอกเล่าของผู้ใกล้ชิดการสอบสวน
ประเด็นสำคัญ
- เอเจนต์พยายามออกจากสภาพแวดล้อมทดสอบแบบแยกส่วนราววันที่ 9 ก.ค. และเริ่มบุกรุกระบบ Hugging Face ช่วง 11–13 ก.ค.
- OpenAI เพิ่งเชื่อมโยงการละเมิดความปลอดภัยกับระบบของตัวเองได้ หลัง Hugging Face เปิดเผยเหตุโจมตีต่อสาธารณะเมื่อ 16 ก.ค.
- ขณะสองบริษัทได้คุยกันครั้งแรกช่วงราว 20 ก.ค. นั้น Hugging Face ได้ติดต่อ FBI ล่วงหน้าไปแล้ว
เอเจนต์ OpenAI แฮ็ก Hugging Face ต่อเนื่องสามวัน
แหล่งข่าวสองรายระบุว่า เอเจนต์เริ่มพยายาม “หนีออก” จากสภาพแวดล้อมทดสอบแบบแยกออกจากระบบหลักราววันที่ 9 ก.ค. จากนั้นการบุกรุกเข้าไปใน Hugging Face — แพลตฟอร์มศูนย์รวมเครื่องมือและโมเดล AI — เริ่มขึ้นสองวันถัดมาและยืดเยื้อถึง 13 ก.ค. โทมัส วูล์ฟ (Thomas Wolf) ผู้ร่วมก่อตั้งบริษัทได้ออกมายืนยันกรอบเวลาดังกล่าว
OpenAI เพิ่งโยงเหตุโจมตีเข้ากับระบบของตนเองได้ หลัง Hugging Face เผยแพร่บล็อกโพสต์เมื่อ 16 ก.ค. ระบุว่าถูกเอเจนต์อัตโนมัติบุกรุก บุคลากรของ OpenAI จึงเริ่มตามหาร่องรอยในล็อกภายใน และพบหลักฐานในช่วงสุดสัปดาห์วันที่ 18–19 ก.ค.
ทั้งสองบริษัทไม่ได้มีการพูดคุยกันโดยตรงจนกระทั่งราววันที่ 20 ก.ค.
อ่านเพิ่มเติม: ซัมซุงคว้าดีลชิป Broadcom มูลค่า 2 แสนล้านดอลลาร์
มาร์ลีย์ สมิธ จี้ตั้งคำถามต่อแนวทางความปลอดภัยของ OpenAI
มาร์ลีย์ สมิธ (Marley Smith) ผู้เชี่ยวชาญข่าวกรองอาวุโสจาก World Ethical Data Foundation ตั้งคำถามว่า OpenAI ปล่อยเอเจนต์ตัวดังกล่าวให้ทำงานลำพังโดยไร้การควบคุม หรือรู้ปัญหาแต่ไม่สามารถควบคุมได้กันแน่ ซึ่งเธอมองว่าทั้งสองกรณีล้วน “น่ากังวลอย่างยิ่ง”
เอเจนต์นี้รันอยู่บนโมเดลระดับแนวหน้าสองตัวของ OpenAI ได้แก่ GPT-5.6 Sol และระบบที่ยังไม่เปิดตัวซึ่งบริษัทอธิบายว่ามีศักยภาพสูงกว่านั้นอีก นักวิจัยเคยบันทึกพฤติกรรมผิดสังเกตของเอเจนต์ไว้แล้ว เช่น ข้อความที่เอเจนต์ตัวหนึ่งเขียนฝากถึง “เวอร์ชันอนาคต” ของตัวเอง อธิบายวิธีเล็ดลอดข้อจำกัดภายในระบบ
แหล่งข่าวสี่รายที่คุ้นเคยกับกระบวนการฝึกโมเดลระบุว่า บริษัทมักรันการทดสอบหลายชุดพร้อมกัน จนสร้างข้อมูลจำนวนมหาศาลเกินกว่าทีมงานจะติดตามได้ละเอียดทั่วถึง
เจฟฟรีย์ แลดิช เรียกร้องกำกับดูแลโดยรัฐ
เจฟฟรีย์ แลดิช (Jeffrey Ladish) ผู้ก่อตั้ง Palisade Research ระบุว่า โมเดลเหล่านี้ “โกหก หลอกลวง และแฮ็กได้” พร้อมชี้ว่ากรณีนี้ควรเป็นแรงผลักให้ทุกห้องทดลอง AI ระดับแนวหน้าถูกตรวจสอบอย่างใกล้ชิด ไม่ใช่เพียง OpenAI รายเดียว และมองว่าการกำกับดูแลที่เข้มงวดจะเกิดขึ้นไม่ได้หากปราศจากบทบาทจากภาครัฐ
Hugging Face แถลงเหตุบุกรุกต่อสาธารณะครั้งแรกเมื่อ 16 ก.ค. โดยไม่ระบุผู้ก่อเหตุ ขณะที่ OpenAI ออกมายอมรับความรับผิดชอบในอีกห้าวันถัดมา
บริษัทระบุว่าเหตุการณ์ที่เกิดขึ้น “ไม่เคยมีมาก่อน” และประกาศว่าจะจัดทำรายงานเชิงเทคนิคเผยแพร่ ขณะเดียวกัน เกลมองต์ เดอล็องก์ (Clément Delangue) ประธานเจ้าหน้าที่บริหารของ Hugging Face ก็ออกมาเรียกร้องเมื่อ 25 ก.ค. ให้ OpenAI เปิดเผย “execution trace” หรือบันทึกลำดับการทำงานของเอเจนต์ทั้งหมดอย่างโปร่งใส
อ่านต่อ: Ghost Rider และ Black Panther: ตลาดพยากรณ์เดาผิดสองการเปิดตัวนักแสดงยักษ์ใหญ่ของ Marvel