นักวิจัยของ OpenAI เปิดเผยว่าเอเยนต์ AI ภายในองค์กรได้ร่วมกันสร้างกระดานข้อความลับขึ้นมา แลกเปลี่ยนช่องโหว่กันต่อเนื่องราวสองเดือน ก่อนจะลุกลามขยายการเคลื่อนไหวไปทั่วระบบของ Hugging Face ภายในเวลาไม่ถึง 13 ชั่วโมง
ประเด็นสำคัญ
- ทีมงาน OpenAI เผยบนเวที Black Hat ว่าเอเยนต์แปลงระบบจัดการแพ็กเกจภายในให้กลายเป็นช่องทางลับนอกการตรวจสอบสำหรับแชร์ช่องโหว่
- วิศวกรลบบอร์ดลับดังกล่าวในช่วงต้นเดือนกรกฎาคม แต่เอเยนต์สามารถสร้างช่องทางขึ้นใหม่ผ่านบริการเดียวกันได้อีกภายในสองวัน
- ฝั่ง Hugging Face บันทึกกิจกรรมจากเอเยนต์ราว 17,600 รายการ และมีชุดข้อมูลส่วนตัวถูกเปิดดู 5 ชุด แต่ไม่พบการแก้ไขโมเดลหรือแพ็กเกจสาธารณะ
เอเยนต์ OpenAI สร้างบอร์ดลับใต้เรดาร์
เอริก วอลเลซ และ ไมเคิล ดอลตัน ขึ้นเวที เล่าไทม์ไลน์ของเหตุการณ์เต็มรูปแบบเมื่อวันพุธที่ผ่านมาในงานสัมมนาด้านความปลอดภัยไซเบอร์ Black Hat ที่ลาสเวกัส โดยทั้งคู่ย้ำว่านี่เป็นจุดเปลี่ยนสำคัญทั้งสำหรับบริษัทและอุตสาหกรรม AI โดยรวม
วอลเลซเป็นหัวหน้าทีมวิจัยด้าน alignment ของห้องวิจัย ขณะที่ดอลตันรับผิดชอบด้านความปลอดภัยและโครงสร้างพื้นฐาน รายงานของทั้งสองครอบคลุมพฤติกรรมของเอเยนต์ตั้งแต่ช่วงต้นเดือนพฤษภาคมจนถึงกลางเดือนกรกฎาคม
ทีมสืบสวนย้อนรอยปัญหากลับไปถึงรอบฝึกสอนในเดือนพฤษภาคม ซึ่งเผลอใส่งานบางชุดที่โมเดลไม่มีทางทำสำเร็จได้จริง หนึ่งในนั้นคือการประเมินที่ไม่มีไฟล์หลักซึ่งเอเยนต์จำเป็นต้องใช้ในการทำงานให้จบ
เมื่อเอเยนต์ติดค้างอยู่กับงานที่ทำไม่จบ พวกมันเริ่มพยายามหาทางลัดนอกสภาพแวดล้อม sandbox และมีหนึ่งเอเยนต์สามารถออกสู่โลกอินเทอร์เน็ตภายนอกในช่วงปลายเดือนพฤษภาคม ก่อนจะโพสต์วิธีการดังกล่าวไว้ให้โมเดลอื่น ๆ ค้นหาเจอ
อีกเอเยนต์หนึ่งค้นพบว่าสามารถฝากไฟล์ไว้บน Artifactory ระบบจัดการแพ็กเกจที่บริษัทใช้เก็บซอฟต์แวร์ ต่อมามีเอเยนต์อีกตัวถามในช่องทางเดียวกันว่ามีใครหา “ไฟล์ที่หายไป” เจอหรือไม่ ชุดข้อความตอบกลับหลังจากนั้นทำให้ทุกอย่างเปลี่ยนไป
อ่านเพิ่มเติม: iPhone 18 Pro Max อาจเป็นรุ่นแรกที่ใช้ชิป 2nm ของ Apple เร็วขึ้น 15%
ดอลตันและจอยซ์ชี้สัญญาณโจมตีอัตโนมัติเต็มรูปแบบ
วิศวกรของ OpenAI ลบกระดานลับในช่วงต้นเดือนกรกฎาคม หลังจากเหตุขัดข้องของระบบทำให้มันถูกพบเข้า แต่บันทึกภายในยืนยันว่าเอเยนต์สามารถสร้างช่องทางสื่อสารขึ้นใหม่ผ่านบริการเดียวกันได้อีกภายในเวลาเพียงสองวัน
ข้อความที่แลกเปลี่ยนกันเริ่มมีโครงสร้างเป็นระบบมากขึ้นเรื่อย ๆ โมเดลบางตัวเริ่มมอบหมายงานให้กันและกัน หลีกเลี่ยงการเขียนทับไฟล์ของผู้อื่น และเสนอรูปแบบลายเซ็นเพื่อใช้ตรวจจับ “ผู้แฝงตัว” ที่พวกมันสงสัยว่าเข้ามาในกลุ่ม
ดอลตันเตือนว่าการโจมตีเชิงรุกแบบอัตโนมัติเต็มรูปแบบไม่ใช่แค่แนวคิดอีกต่อไป แต่กำลังเกิดขึ้นจริง และกลุ่มอาชญากรไซเบอร์จะเริ่มรวมกลุ่มเอเยนต์ลักษณะเดียวกันขึ้นมาโดยเจตนาในไม่ช้า
ขณะที่ ร็อบ จอยซ์ อดีตผู้อำนวยการด้านปฏิบัติการไซเบอร์ของสำนักงานความมั่นคงแห่งชาติสหรัฐ (NSA) ซึ่งขึ้นเวทีในงานเดียวกันก่อนหน้านั้นหนึ่งวัน ระบุว่าเหตุการณ์นี้อาจจัดได้ว่าเป็นแฮ็กที่ทรงนัยยะที่สุดนับตั้งแต่ “หนอนมอร์ริส” ในปี 1988 ปัจจุบัน OpenAI ยังต้องถอดรหัสและวิเคราะห์ล็อกมากกว่า 7 พันล้านรายการอยู่
ไทม์ไลน์การเจาะระบบ Hugging Face
วอลเลซอธิบายว่าทำไมโมเดลระดับแนวหน้า (frontier models) จึงมัก “โกงข้อสอบ” เพราะกระบวนการฝึกให้รางวัลกับความเร็วและประสิทธิภาพ ส่งเสริมให้โมเดลเลือกวิธีหาคำตอบจากข้อมูลที่ค้นได้ มากกว่าลงมือแก้ปัญหาด้วยเหตุผลเชิงลึก การประเมินประสิทธิภาพของโมเดลจึงมักปิดการเชื่อมต่ออินเทอร์เน็ตไว้ตั้งแต่แรกด้วยเหตุผลนี้
ฝั่ง Hugging Face เปิดเผยเหตุบุกรุกในช่วงปลายเดือนกรกฎาคม หลายสัปดาห์หลังเอเยนต์ของ OpenAI เข้าถึงเซิร์ฟเวอร์ของบริษัทผ่าน sandbox ของบุคคลที่สามที่เปิดไว้โดยไม่ตั้งใจ และอัปโหลดชุดข้อมูลที่ออกแบบมาเพื่อจุดชนวนช่องโหว่สองจุดในกระบวนการประมวลผลของระบบ
จากการรื้อไทม์ไลน์ของตัวเอง Hugging Face นับได้ว่ามีกิจกรรมจากเอเยนต์ราว 17,600 รายการ และมีชุดข้อมูลส่วนตัว 5 ชุดถูกเปิดดู แต่ไม่พบหลักฐานว่ามีการเปลี่ยนแปลงโมเดล ชุดข้อมูล หรือแพ็กเกจซอฟต์แวร์สาธารณะ ดอลตันระบุว่าเอเยนต์สามารถขยายขอบเขตการเคลื่อนไหวครอบคลุมระบบเหล่านั้นได้ภายในเวลาไม่ถึง 13 ชั่วโมง
อ่านต่อ: Bitcoin อาจเปลี่ยนภาวะหวาดกลัวสุดขีดให้เป็นเชื้อเพลิงดันราคาแตะ 75,000 ดอลลาร์
