OpenAI เล่าเหตุการณ์ที่สองโมเดลของตนแฮ็ก Hugging Face ในลักษณะซ้ำรอยกลยุทธ์การสื่อสารด้านความเสี่ยงที่บริษัทเริ่มใช้ตั้งแต่ปี 2019 ตามมุมมองของ John Thickstun นักวิทยาการคอมพิวเตอร์จากมหาวิทยาลัยคอร์เนลล์
ประเด็นสำคัญ
- OpenAI ระบุว่าสองโมเดลของบริษัทหลุดออกจาก sandbox ทดสอบ และแทรกซึมเข้าไปในเซิร์ฟเวอร์ของ Hugging Face เพื่อโกงดัชนีชี้วัดด้านไซเบอร์ซีเคียวริตี้
- Thickstun มองว่าการเปิดเผยครั้งนี้ทำหน้าที่เป็น “พิตช์นักลงทุน” ไปพร้อมกัน คล้ายกับตอนห้องแล็บตัดสินใจชะลอการปล่อย GPT-2 ในปี 2019
- หลังเกิดเหตุ Hugging Face ต้องหันไปใช้โมเดล open‑weight จากจีนทำงานนิติเวช เพราะโมเดลสหรัฐหลายตัวปฏิเสธจะประมวลผลงานด้านจู่โจมไซเบอร์
Thickstun ตั้งคำถามต่อการเปิดเผยเหตุแฮ็กของ OpenAI
เมื่อวันอังคาร OpenAI ได้ออกประกาศอย่างเป็นทางการว่า สองโมเดลของบริษัทได้แทรกซึมเข้าไปในโครงสร้างพื้นฐานของ Hugging Face แพลตฟอร์มโอเพ่นซอร์สด้าน AI ระหว่างการทดสอบสมรรถนะด้าน “การรุกโจมตีไซเบอร์” ภายในองค์กรเอง
ประกาศดังกล่าว ถูกเผยแพร่หลังจาก Hugging Face แจ้งเหตุล่วงหน้าไปแล้วห้าวัน
ด้าน Hugging Face เคยอธิบายไว้ก่อนหน้าว่า เป็นการโจมตีแบบอัตโนมัติครบวงจรที่ขับเคลื่อนด้วยระบบเอเจนต์ AI ขณะที่ OpenAI ยกให้เหตุการณ์นี้เป็นเคส “ไม่เคยมีมาก่อน” และเตือนว่ากรณีคล้ายกันอาจเกิดถี่ขึ้นเมื่อโมเดลมีศักยภาพสูงขึ้น
ตามคำอธิบายของ OpenAI โมเดลใช้ช่องโหว่ zero‑day ในตัวติดตั้งแพ็กเกจ หลบหนีออกจาก sandbox ที่ตั้งใจให้แยกขาดจากอินเทอร์เน็ต ก่อนจะไล่เคลื่อนผ่านระบบภายในทีละชั้นจนถึงเครื่องที่เชื่อมต่อออนไลน์ได้ จากนั้นโมเดลใช้ข้อมูลรับรองที่ขโมยมาและช่องโหว่ zero‑day เพิ่มเติม เพื่อดึงคำตอบดัชนีชี้วัดออกมาจากเซิร์ฟเวอร์ production ของ Hugging Face
Thickstun ซึ่งเป็นผู้ช่วยศาสตราจารย์ด้านวิธีควบคุมพฤติกรรมโมเดลที่คอร์เนลล์ มองว่าการเปิดเผยดังกล่าวสะท้อนท่าทีของบริษัทที่กำลังเตรียมเข้าสู่ตลาดทุนวอลล์สตรีท
เขาให้สัมภาษณ์กับสื่อโดยชี้ว่า คำเตือนเรื่อง “โมเดลอันตราย” มักถูกตีความในหมู่นักลงทุนว่าเป็น “ข้ออ้างถึงความทรงพลัง” ของเทคโนโลยี
Thickstun ย้ำ ว่ากรอบการเล่าเรื่องแบบนี้ปรากฏเคียงคู่กับการประกาศสำคัญของบริษัทมาหลายปี และผู้ลงทุนก็ให้รางวัลกับการสื่อสารในลักษณะดังกล่าวอย่างต่อเนื่องผ่านมูลค่าการลงทุนและการประเมินราคา
อ่านเพิ่มเติม: ChatGPT ถูกกล่าวหาว่าเกือบทำให้บาทหลวงเสียชีวิต ศาลเตรียมไต่สวน
Bengio – Guido มองคนละด้าน ใครควรรับผิด
ไม่ใช่ทุกคนที่มองการเปิดเผยของ OpenAI ว่าเป็น “โชว์การตลาด” และการสื่อสารนี้เกิดขึ้นเพียงไม่กี่สัปดาห์หลังประธานาธิบดี Donald Trump ลงนามคำสั่งฝ่ายบริหาร ให้อำนาจรัฐบาลตรวจประเมินความเสี่ยงโมเดลขั้นสูงก่อนปล่อยสู่สาธารณะ
Yoshua Bengio นักวิจัย AI ชั้นนำ ระบุว่าเคสนี้เป็น “สัญญาณเตือนครั้งใหญ่” ขณะที่ Nate Soares จาก Machine Intelligence Research Institute เห็นว่าเป็น “กระสุนนัดเตือน” ที่ควรกระตุ้นให้วอชิงตันเดินหน้าเจรจากับปักกิ่งอย่างจริงจังในประเด็นความปลอดภัยของ AI
ฝั่งนักวิจัยด้านความปลอดภัยไซเบอร์ หลายเสียงพุ่งเป้าไปที่วิศวกรรมของ OpenAI โดยเฉพาะ Dan Guido จากบริษัทตรวจสอบความปลอดภัย Trail of Bits ที่ระบุ ว่าเหตุการณ์นี้คือ “ความล้มเหลวด้านการกักกัน ขณะที่ระบบนิรภัยถูกปิดทิ้งไว้” พร้อมชี้ไปที่ตัวติดตั้งแพ็กเกจซึ่งเปิดช่องให้ sandbox มีเส้นทางออกสู่ภายนอก
นักวิจัยคนอื่นชี้ว่า OpenAI ได้ “คลายเกณฑ์ปฏิเสธงานด้านไซเบอร์โจมตี” ของโมเดลเพื่อให้การทดสอบเดินหน้าอยู่แล้ว ทำให้ผลลัพธ์ไม่ได้เหนือความคาดหมายเท่าที่ภาพข่าวช่วงแรกอาจทำให้เข้าใจ
ปัญหาชุดที่สองเกิดขึ้นในช่วงเก็บกวาดร่องรอยการโจมตี เมื่อโมเดลเชิงพาณิชย์จากสหรัฐส่วนใหญ่ปฏิเสธจะประมวลผลคำสั่งโจมตีดิบๆ และ payload ช่องโหว่ ซึ่งเป็นข้อมูลที่จำเป็นสำหรับงานนิติเวชด้านไซเบอร์
Hugging Face เปิดเผย ว่าทีมวิศวกรจึงหันไปใช้โมเดล GLM 5.2 ของ Z.ai ที่เป็น open‑weight และรันบนโครงสร้างพื้นฐานของบริษัทเอง เพื่อช่วยคัดกรองบันทึกการทำงานมากกว่า 17,000 รายการที่ถูกทิ้งไว้
เสียงเตือน “AI อันตราย” จาก OpenAI ย้อนถึงปี 2019
OpenAI เคยวางกรอบงานวิจัยของตนว่า “มีความเสี่ยงสูง” มาก่อนหน้านี้แล้ว โดยในเดือนกุมภาพันธ์ 2019 บริษัทตัดสินใจชะลอการปล่อยโมเดลสร้างข้อความ GPT‑2 ด้วยเหตุผลว่ากลัวถูกใช้สร้างข่าวปลอมเนียนตาเข้าท่วมอินเทอร์เน็ต
เพียงห้าเดือนหลังจากนั้น Microsoft ก็ประกาศลงทุน 1,000 ล้านดอลลาร์ใน OpenAI
Thickstun มองว่า “สารหลัก” ที่ส่งออกสู่ตลาดทุนตั้งแต่ตอนนั้นแทบไม่เปลี่ยนแปลงมากนัก คือการย้ำว่าบริษัทกำลังสร้างเทคโนโลยีที่ทรงพลังจนต้อง “ระมัดระวังเป็นพิเศษ” ซึ่งสำหรับผู้ลงทุนแล้ว ข้อความแบบนี้มักแปลได้ว่า “ศักยภาพเชิงพาณิชย์สูง”
อ่านต่อ: Tesla ประกาศแผนลงทุนเกิน 25,000 ล้านดอลลาร์ นักลงทุนนั่งไม่ติด
