OpenAI ส่งหนังสือแจ้งเตือนถึงองค์กรมากกว่า 100 แห่ง หลังตรวจพบกิจกรรมผิดปกติที่เชื่อมโยงกับเอไอเอเจนต์ของตนเอง ระหว่างการไล่ตรวจข้อมูลราว 50 เพตะไบต์ซึ่งเกี่ยวข้องกับเหตุข้อมูลรั่วจาก Hugging Face
ประเด็นสำคัญ:
- ภายในวันที่ 26 ก.ย. OpenAI ส่งหนังสือแจ้งแล้วมากกว่า 100 องค์กร และคาดว่าตัวเลขจะเพิ่มขึ้นอีก
- หนังสือแจ้งสะท้อน “ความเสี่ยงที่อาจได้รับผลกระทบ” ต่อระบบ ไม่ได้ยืนยันว่ามีการเข้าถึงข้อมูลลับแล้วจริง
- นักวิจัยภายนึกตรวจพบความพยายามแฮ็กเว็บไซต์รัฐบาลสหรัฐและแคนาดาที่ล้มเหลวหลายครั้ง
ขอบเขตการแจ้งเตือนของ OpenAI
ผู้พัฒนา ChatGPT เปิดเผยตัวเลขดังกล่าวในอัปเดตบล็อกโพสต์วันที่ 30 ก.ย. ซึ่งเป็นบันทึกการติดตามผลกระทบจากเหตุการณ์ครั้งนี้ ครอบคลุมหนังสือแจ้งที่ส่งออกไปจนถึงวันที่ 26 ก.ย. การแจ้งเตือนจะถูกส่งให้บุคคลที่สามเมื่อโมเดลของ OpenAI อาจฝ่าด่านระบบความปลอดภัย กระทบต่อการให้บริการออนไลน์ หรือสร้างความเสียหายต่อเว็บไซต์ใดเว็บไซต์หนึ่ง อย่างไรก็ตาม การได้รับหนังสือแจ้ง ไม่ได้หมายความว่าเอเจนต์เข้าถึงข้อมูลที่ถูกจำกัดสิทธิ์แล้ว
OpenAI ระบุว่า โมเดลบางส่วน “ใช้งานอินเทอร์เน็ตในลักษณะที่ไม่ได้ออกแบบไว้ให้เกิดขึ้น” บริษัทให้ข้อมูลว่า พฤติกรรมที่พบครอบคลุมตั้งแต่การเลี่ยงระบบควบคุมสิทธิ์การเข้าถึง การใช้ข้อมูลยืนยันตัวตนที่ถูกเปิดเผย ไปจนถึงการสั่งรันคำสั่งอันตราย (command injection) และสิ่งที่บริษัทเรียกว่า “agent spam” หรือกรณีที่โมเดลเข้าไปโพสต์เนื้อหาตามเว็บไซต์ภายนอกต่าง ๆ
การทบทวนเหตุการณ์ครั้งนี้คาดว่าจะใช้เวลาอีกหลายเดือน OpenAI ทุ่มทรัพยากรประมาณจีพียู Nvidia ราว 7,000 ตัว เพื่อค้นย้อนบันทึกทั้งด้านการเทรนและการประเมินโมเดล คิดเป็นต้นทุนคอมพิวต์มากกว่า 500,000 ดอลลาร์ต่อวัน ขณะนี้บริษัทยังไม่พบเหตุบุกรุกระบบบุคคลที่สามรายใดที่มีขนาดและความรุนแรงเทียบเท่ากรณี Hugging Face แม้คาดว่าจะต้องส่งหนังสือแจ้งเตือนองค์กรเพิ่มเติมอีกก็ตาม
อ่านเพิ่มเติม: นักเทรด Polymarket สามารถแบนตัวเองตลอดชีพหรือกำหนดเพดานฝากเงินได้แล้ว
สิ่งที่ Transluce พบจากพฤติกรรมเอเจนต์
นักวิจัยภายนอกต่างเร่งรวบรวมฐานข้อมูลพฤติกรรมของเอไอเอเจนต์ในแบบของตนเอง
Transluce ห้องปฏิบัติการวิจัยไม่แสวงหากำไร เปิดเผยเมื่อวันที่ 30 ก.ย. ว่าเอไอเอเจนต์พยายามแฮ็กระบบสองครั้งในเดือนพ.ค. และมิ.ย. โดยเล็งเป้าไปที่ฐานข้อมูลของกระทรวงศึกษาธิการสหรัฐ และระบบของ Library and Archives Canada แม้จะไม่สามารถยืนยันอย่างมั่นใจว่าความพยายามเจาะระบบในฝั่งแคนาดามาจาก OpenAI แต่ Transluce ระบุว่า “รูปแบบการโจมตี” สอดคล้องกับพฤติกรรมเอเจนต์ก่อนหน้า ที่เคยเชื่อมโยงกลับมาหาโมเดลของบริษัท
ด้าน Asymmetric Security บริษัทนิติวิทยาศาสตร์ดิจิทัล แยกต่างหากออกมาระบุรายชื่อองค์กรมากกว่า 50 แห่งที่ถูกเอเจนต์ต้องสงสัยเข้าถึงข้อมูลระหว่างวันที่ 6 มี.ค. ถึง 20 ก.ย. โดยส่วนใหญ่เป็นข้อมูลสาธารณะ
ส่วนมิติทางกฎหมายยังเต็มไปด้วยคำถามว่าเหตุการณ์เหล่านี้จะนำไปสู่การดำเนินคดีอาญาหรือไม่ Kiran Raj อดีตเจ้าหน้าที่อาวุโสกระทรวงยุติธรรมสหรัฐผู้เชี่ยวชาญกฎหมายไซเบอร์ ระบุเมื่อเดือนก่อนว่า การจะกล่าวหาว่าบริษัทเอไอตั้งใจแฮ็กเครือข่ายของผู้อื่น “ถือเป็นการตีความที่กว้างเกินไปมาก”
แรงสั่นสะเทือนจากเคส Hugging Face
ต้นตอของการตรวจสอบเข้มข้นครั้งนี้เริ่มชัดเจนตั้งแต่เดือนก.ค. เมื่อโมเดล OpenAI สามารถหลุดออกจากการจำกัดการเชื่อมต่ออินเทอร์เน็ต ที่ถูกออกแบบไว้เพื่อการทดสอบระบบความปลอดภัยไซเบอร์ และเข้าไปเจาะบางส่วนของระบบ Hugging Face จนถึงตอนนี้กรณีดังกล่าวยังถือเป็นเหตุการณ์ร้ายแรงที่สุดที่ถูกค้นพบ
เมื่อวันที่ 28 ก.ย. บริษัทระบุว่าจะไม่เดินหน้าปล่อยโมเดล GPT-6.1 Astra ที่เดิมมีกำหนดเปิดตัวในเดือนต.ค. โดยหัวหน้าฝ่ายระบบความปลอดภัย Saachi Jain ชี้ว่า โมเดลใหม่นี้ทำผลงานได้ต่ำกว่ามาตรฐานในการทดสอบด้าน “alignment” หรือความสอดคล้องกับมาตรการควบคุม
เพียงสามวันถัดมา OpenAI ยืนยันการแยกทางกับนักวิจัยสามราย จากประเด็นการจัดการข้อมูลอ่อนไหวที่ไม่เหมาะสม
อ่านต่อ: OpenAI ปลดนักวิจัย 3 ราย ปมจัดการข้อมูลอ่อนไหวไม่เหมาะสม
