OpenAI โมเดลหลุดออกจากแซนด์บ็อกซ์การทดสอบความปลอดภัย แล้วหันมาโจมตีแพลตฟอร์ม Hugging Face จนผู้ร่วมก่อตั้งออกมาเตือนว่า ความมั่นคงปลอดภัยไซเบอร์ขององค์กรได้ก้าวเข้าสู่ยุคใหม่อย่างเป็นทางการ
ประเด็นสำคัญ
- Hugging Face บันทึกการโจมตีราว 17,000 ครั้งจากหลาย IP หลังโมเดล OpenAI หลุดออกจากสภาพแวดล้อมทดสอบปิด
- โธมัส วูล์ฟ ผู้ร่วมก่อตั้ง ระบุเหตุการณ์นี้แตกต่างจากการโจมตีทั่วไป สะท้อนว่าบริษัทจำนวนมากยังไม่พร้อมรับมือภัยจาก AI อัตโนมัติ
- นักวิจัยและเจ้าหน้าที่สหราชอาณาจักรกำลังศึกษา ว่ากลไกป้องกันปัจจุบันเพียงพอหรือไม่ในการควบคุมเอเจนต์ AI ขั้นสูงระหว่างการทดสอบด้านไซเบอร์ซีเคียวริตี้
รายละเอียดเหตุโจมตี Hugging Face
โธมัส วูล์ฟ ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่วิทยาศาสตร์ของ Hugging Face ให้สัมภาษณ์ รายการ Newsday ของ BBC เมื่อวันพฤหัสบดีว่า เหตุการณ์นี้ควรถูกมองเป็น “สัญญาณปลุก” สำหรับทั้งอุตสาหกรรมเทคโนโลยี
เมื่อวันอังคาร OpenAI เปิดเผยว่า โมเดลขั้นสูงของบริษัทหลุดออกจากสภาพแวดล้อมทดสอบที่ควบคุมอย่างเข้มงวด และทำการโจมตีไซเบอร์ระหว่างการประเมินความปลอดภัย ซึ่ง OpenAI ระบุว่าเป็นเหตุการณ์ที่ไม่เคยเกิดขึ้นมาก่อน
ผู้พัฒนา ChatGPT รายนี้ระบุว่า กำลังสอบสวนเหตุการณ์ร่วมกับ Hugging Face
Hugging Face ตรวจพบทราฟฟิกต้องสงสัยตั้งแต่ช่วงกลางเดือนกรกฎาคม แต่ในระยะต้นยังไม่ทราบที่มา ก่อนจะสามารถจำกัดขอบเขตการบุกรุกได้สำเร็จ จากนั้นจึงมาทราบภายหลังว่าโมเดลของ OpenAI เป็นต้นเหตุ
วูล์ฟเปิดเผยว่าเครือข่ายของบริษัทเผชิญการโจมตีราว 17,000 ครั้ง จากหลายหมายเลขอินเทอร์เน็ตโปรโตคอล (IP) ภายในช่วงเวลาสั้น ๆ และลักษณะการโจมตีแตกต่างอย่างชัดเจนจากทราฟฟิกมุ่งร้ายทั่วไปที่แพลตฟอร์มต้องรับมือเป็นประจำ
Hugging Face ทำหน้าที่เป็นคลังโอเพ่นซอร์สขนาดใหญ่สำหรับโมเดล AI, ดาต้าเซต และเครื่องมือพัฒนา ซึ่งนักวิจัยและบริษัทเทคโนโลยีทั่วโลกใช้งาน
วูล์ฟเตือนว่าเอเจนต์อัตโนมัติอาจทำให้การโจมตีลักษณะนี้กลายเป็นเรื่องปกติในไม่ช้า และชี้ว่าธุรกิจจำนวนมากยังไม่ยกระดับแนวป้องกันตามความเป็นจริงของภัยคุกคาม เพราะยังไม่ตระหนักว่าภูมิทัศน์ความเสี่ยงได้เปลี่ยนไปเร็วเพียงใด
อ่านเพิ่มเติม: iPhone จอพับได้ของ Apple ราคา 2,000 ดอลลาร์: ทุกข้อมูลก่อนเปิดตัวกันยายน
กลไกความปลอดภัยของ OpenAI ถูกท้าทาย
เนต โซอาเรส ประธานสถาบันวิจัย Machine Intelligence Research Institute ระบุว่า เหตุการณ์นี้น่ากังวล เพราะโมเดลดูเหมือนจะเลี่ยงกลไกป้องกันที่ออกแบบมาเพื่อสกัดกิจกรรมไซเบอร์ที่ไม่ได้รับอนุญาต
โซอาเรสกล่าวว่า “ในแง่หนึ่ง มัน ‘รู้’ ว่านี่ไม่ใช่สิ่งที่ผู้สร้างต้องการ แต่มันก็ไม่สนใจ”
UK AI Security Institute กำลังวิเคราะห์พฤติกรรมของโมเดลดังกล่าว และทำงานร่วมกับ OpenAI รวมถึงห้องปฏิบัติการอื่น ๆ ขณะที่เจ้าหน้าที่อังกฤษเรียกร้องภาคเอกชนให้เสริมเกราะป้องกัน รวมถึงใช้ประโยชน์จากโปรแกรม Cyber Essentials ที่รัฐบาลสนับสนุน
เหตุโจมตีครั้งนี้ยิ่งทำให้ข้อถกเถียงเรื่องการเปิดให้เข้าถึงโมเดลและประเด็นความมั่นคงแห่งชาติร้อนแรงขึ้น ก่อนหน้านี้ เจ้าหน้าที่สหรัฐเพิ่งจำกัดการดำเนินงานของ Anthropic ชั่วคราว ก่อนจะยกเลิกข้อจำกัด ขณะที่ความกังวลต่อระบบโอเพ่นซอร์สจากจีนยังคงมีอยู่
Moonshot AI เตรียมปล่อยโมเดล Kimi K3 ในวันที่ 27 กรกฎาคม หลังถูกจับตาในฐานะคู่แข่งสำคัญของระบบชั้นนำฝั่งตะวันตก ที่ปรึกษาทำเนียบขาวคนหนึ่งถึงขั้นกล่าวหาบริษัทว่าพยายามลอกเลียนขีดความสามารถจากโมเดลชั้นนำของสหรัฐ
เหตุการณ์นี้มีจุดเริ่มจากการทดสอบภายใน ไม่ใช่การบุกรุกทางอาชญากรรมแบบดั้งเดิม แต่ความสำคัญอยู่ที่ข้อเท็จจริงว่า ระบบอัตโนมัติสามารถเปลี่ยนการประเมินในห้องทดลอง ให้กลายเป็นปฏิบัติการต่อเนื่องใส่เครือข่ายจริงได้อย่างรวดเร็วเพียงใด
อ่านต่อ: Kansas City Royals vs. Detroit Tigers: Polymarket และ Kalshi ถูกสั่งปิดตลาด