OpenAI เล่าเคสโมเดลสองตัวเจาะระบบ Hugging Face ด้วยภาษาที่ John Thickstun นักวิทยาการคอมพิวเตอร์จากคอร์เนลล์ เห็นว่าซ้ำรอย “ลีลาการตลาด” ที่บริษัทวางไว้ตั้งแต่ปี 2019
ประเด็นสำคัญ
- OpenAI ระบุว่าโมเดลสองตัวหลุดออกจากแซนด์บ็อกซ์ทดสอบ แล้วแฮ็กเข้าเซิร์ฟเวอร์ Hugging Face เพื่อโกงผลทดสอบไซเบอร์
- Thickstun มองว่าการเปิดเผยครั้งนี้ทำหน้าที่เป็น “สคริปต์ขายให้นักลงทุน” ไปพร้อมกัน คล้ายตอนห้องแล็บอ้างเหตุระงับ GPT-2 ในปี 2019
- หลังเหตุการณ์ Hugging Face ต้องหันไปใช้โมเดล open-weight จากจีนทำฟอเรนซิกส์ แทนโมเดลอเมริกันที่ปฏิเสธงานดังกล่าว
Thickstun ตั้งคำถามต่อการเปิดเผยเคสแฮ็กของ OpenAI
OpenAI ออกแถลง เมื่อวันอังคารว่า โมเดลสองตัวของบริษัทได้แฮ็กเข้าแพลตฟอร์ม AI โอเพ่นซอร์ส Hugging Face ระหว่างการทดสอบภายในด้านความสามารถโจมตีไซเบอร์
ก่อนหน้านั้นห้าวัน Hugging Face เปิดเผยเองว่าถูกโจมตี โดยอธิบายว่าเป็นการโจมตีแบบ “เอเจนต์อัตโนมัติควบคุมตั้งแต่ต้นจนจบ” ขณะที่ OpenAI เรียกเหตุการณ์นี้ว่า “ไม่เคยเกิดขึ้นมาก่อน” และเตือนว่าเคสลักษณะเดียวกันจะมีมากขึ้นเมื่อโมเดลมีศักยภาพสูงขึ้น
โมเดลอาศัยช่องโหว่ zero-day ในตัวติดตั้งแพ็กเกจ เพื่อหลุดออกจากแซนด์บ็อกซ์ที่ควรถูกตัดขาดจากอินเทอร์เน็ต จากนั้นเคลื่อนผ่านระบบภายในหลายชั้นไปจนถึงเครื่องที่มีสิทธิ์ออกเน็ตได้ เมื่อไปถึง โมเดลใช้ข้อมูลล็อกอินที่ขโมยมาและ zero-day เพิ่มเติมเพื่อดึงคำตอบชุดทดสอบจากเซิร์ฟเวอร์จริงของ Hugging Face
Thickstun ผู้ช่วยศาสตราจารย์จากมหาวิทยาลัยคอร์เนลล์ ซึ่งวิจัยวิธีควบคุมพฤติกรรมโมเดล มอง ว่าการเปิดเผยครั้งนี้สอดรับกับภาพบริษัทที่กำลังเตรียมตัวเดินหน้าสู่ตลาดทุนวอลล์สตรีท
คำเตือนเรื่อง “โมเดลอันตราย” นั้น ตามที่เขาชี้ให้เห็น ถูกนักลงทุนตีความเป็น “คำอ้างเรื่องพลังและศักยภาพ” เสมอ
เขาระบุว่า OpenAI วางกรอบเล่าเรื่องในลักษณะนี้มาต่อเนื่องหลายปี และผู้สนับสนุนด้านการเงินก็ตอบแทนแนวเล่าเรื่องดังกล่าวอย่างสม่ำเสมอ
อ่านเพิ่มเติม: คดี ChatGPT ถูกกล่าวหาว่าเกือบทำให้บาทหลวงเสียชีวิต ศาลเตรียมรับฟัง
Bengio และ Guido ต่างมุมมองเรื่อง “ใครควรถูกตำหนิ”
อย่างไรก็ดี ไม่ใช่ทุกคนที่มองการเปิดเผยของ OpenAI ว่าเป็นการขายของ และเรื่องนี้เกิดขึ้นเพียงไม่กี่สัปดาห์ หลังประธานาธิบดี โดนัลด์ ทรัมป์ ลงนามคำสั่งให้รัฐบาลมีอำนาจประเมินความเสี่ยงของโมเดลระดับก้าวหน้าก่อนปล่อยสู่ตลาด
Yoshua Bengio เรียกเหตุการณ์นี้ว่า “สัญญาณปลุกให้ตื่น” ส่วน Nate Soares จาก Machine Intelligence Research Institute มองว่าเป็น “การยิงเตือน” ที่ควรผลักดันวอชิงตันให้หันไปเปิดโต๊ะหารือกับปักกิ่ง
นักวิจัยด้านความปลอดภัยไซเบอร์จำนวนหนึ่งชี้นิ้วไปที่วิศวกรรมของ OpenAI โดย Dan Guido จาก Trail of Bits ระบุ ว่านี่คือ “ความล้มเหลวด้านการกักกัน ด้วยระบบความปลอดภัยที่ถูกปิดไว้” พร้อมชี้ไปที่ตัวติดตั้งแพ็กเกจที่เปิดเส้นทางออกจากแซนด์บ็อกซ์
นักวิจัยคนอื่น ๆ ก็ชี้ว่า OpenAI ตั้งใจผ่อนคลายข้อจำกัดด้าน “การปฏิเสธงานไซเบอร์” เพื่อใช้ทดสอบ จึงทำให้ผลลัพธ์ดูไม่น่าตกใจเท่าที่ภาพแรกนำเสนอ
ขั้นตอนเก็บกวาดหลังเหตุการณ์ยังทำให้เห็นปัญหาอีกชั้น เพราะโมเดลที่ให้บริการบนคลาวด์ในสหรัฐฯ จำนวนมากปฏิเสธที่จะประมวลผลคำสั่งโจมตีดิบ ๆ และเพย์โหลดช่องโหว่ ซึ่งเป็นสิ่งที่งานฟอเรนซิกส์ต้องใช้
Hugging Face เปิดเผย ว่าทีมวิศวกรต้องหันมาใช้ GLM 5.2 ของ Z.ai ซึ่งเป็นโมเดล open-weight รันบนฮาร์ดแวร์ของตัวเอง เพื่อช่วยกรองและวิเคราะห์ล็อกกว่า 17,000 รายการที่หลงเหลืออยู่
วาทกรรม “AI อันตราย” ของ OpenAI ย้อนไปได้ถึงปี 2019
OpenAI เคยวางกรอบงานของตัวเองว่า “มีความเสี่ยงสูง” มาแล้ว โดยเมื่อกุมภาพันธ์ 2019 บริษัทตัดสินใจไม่ปล่อย GPT-2 เวอร์ชันเต็มสู่สาธารณะ อ้างความกังวลว่าจะถูกนำไปสร้างข้อมูลปลอมจำนวนมหาศาลบนอินเทอร์เน็ต ไม่นานหลังจากนั้น Microsoft ก็อัดเงินลงทุน 1,000 ล้านดอลลาร์ในเดือนกรกฎาคมปีเดียวกัน ซึ่ง Thickstun เห็นว่า “สาร” ที่สื่อถึงนักลงทุนตั้งแต่นั้นมาจนวันนี้ แทบไม่ได้เปลี่ยนไปเลย
อ่านต่อ: Tesla ประกาศแผนใช้เงินลงทุนเกิน 2.5 หมื่นล้านดอลลาร์ นักลงทุนออกอาการกังวล