OpenAI ได้ส่งหนังสือแจ้งเตือนไปยังองค์กรมากกว่า 100 แห่ง หลังพบกิจกรรมที่ไม่ได้รับอนุญาตซึ่งเชื่อมโยงกับเอเจนต์ AI ของตน ขณะกำลังตรวจสอบข้อมูลภายในราว 50 เพตะไบต์ ภายหลังเหตุเจาะระบบ Hugging Face
ประเด็นสำคัญ:
- OpenAI ส่งหนังสือแจ้งเตือนถึงองค์กรกว่า 100 แห่งภายในวันที่ 26 กันยายน และคาดว่าตัวเลขจะเพิ่มขึ้นอีก
- หนังสือแจ้งเตือนไม่ได้ยืนยันว่ามีการเข้าถึงข้อมูลลับ แต่บ่งชี้ว่าระบบอาจได้รับผลกระทบ
- นักวิจัยภายนัติพบความพยายามแฮ็กเว็บไซต์รัฐบาลสหรัฐฯ และแคนาดาที่ล้มเหลว แยกต่างหากจากการตรวจสอบของ OpenAI
ขอบเขตการแจ้งเตือนของ OpenAI
ผู้พัฒนา ChatGPT รายนี้ได้เปิดเผยตัวเลขล่าสุด ผ่านอัปเดตบล็อกโพสต์เมื่อ 30 กันยายน ซึ่งสรุปรายงานผลกระทบจากเหตุการณ์ดังกล่าว ครอบคลุมหนังสือแจ้งเตือนที่ส่งออกไปจนถึงวันที่ 26 กันยายน การแจ้งเตือนจะถูกส่งไปยังบุคคลที่สามเมื่อพบว่าโมเดลของ OpenAI อาจฝ่าด่านควบคุมความปลอดภัย ส่งผลต่อความพร้อมใช้งานของบริการออนไลน์ หรือสร้างความเสียหายให้กับเว็บไซต์ แต่การแจ้งเตือนไม่ได้หมายความว่าเอเจนต์เข้าถึงข้อมูลที่จำกัดสิทธิ์แล้ว
OpenAI ระบุว่า โมเดลบางตัวได้ “ใช้งานอินเทอร์เน็ตในรูปแบบที่ไม่เป็นไปตามเจตนารมณ์การออกแบบ” ตามที่บริษัทให้ข้อมูลไว้
พฤติกรรมที่ถูกรวบรวมครอบคลุมตั้งแต่การเลี่ยงมาตรการควบคุมการเข้าถึง การใช้ข้อมูลรับรอง (credentials) ที่ถูกเปิดเผย การฉีดคำสั่ง (command injection) ไปจนถึงสิ่งที่บริษัทเรียกว่า “agent spam” หรือการที่โมเดลไปโพสต์เนื้อหาลงบนแพลตฟอร์มของบุคคลที่สาม
การทบทวนข้อมูลครั้งนี้คาดว่าจะใช้เวลาหลายเดือน OpenAI ได้กันทรัพยากรจีพียู Nvidia ประมาณ 7,000 ตัว มาวิเคราะห์บันทึกการฝึกและการประเมินโมเดล คิดเป็นต้นทุนประมวลผลกว่า 500,000 ดอลลาร์สหรัฐต่อวัน ปัจจุบันยังไม่พบเหตุบุกรุกของบุคคลที่สามรายอื่นที่มีขนาดหรือความรุนแรงเทียบเท่ากรณี Hugging Face แต่บริษัทคาดว่าจะต้องส่งหนังสือแจ้งเตือนเพิ่มเติมไปยังองค์กรอื่น ๆ อีก
อ่านเพิ่มเติม: เทรดเดอร์ Polymarket สามารถสั่งแบนตัวเองตลอดชีพหรือจำกัดวงเงินฝากได้แล้ว
ผลการตรวจสอบจาก Transluce
ขณะเดียวกัน นักวิจัยภายนอกก็เริ่มสร้างฐานข้อมูลพฤติกรรมของเอเจนต์ AI ขึ้นเองเช่นกัน
Transluce ห้องปฏิบัติการวิจัยไม่แสวงหากำไร ได้รายงานเมื่อ 30 กันยายน ว่าเอเจนต์ AI พยายามแฮ็กระบบสองครั้งในช่วงเดือนพฤษภาคมและมิถุนายน โดยเล็งเป้าไปยังฐานข้อมูลของกระทรวงศึกษาธิการสหรัฐฯ และหน่วยงาน Library and Archives Canada แม้จะไม่สามารถยืนยันได้อย่างมั่นใจว่าความพยายามโจมตีเป้าหมายแคนาดานั้นเกี่ยวข้องกับ OpenAI แต่ Transluce ระบุว่าแท็กติกที่ใช้สอดคล้องกับพฤติกรรมเอเจนต์ก่อนหน้านี้ที่เคยโยงกับบริษัทมาก่อน
ขณะเดียวกัน บริษัทนิติพิสูจน์ดิจิทัล Asymmetric Security ก็ได้เผยแพร่รายชื่อองค์กรกว่า 50 แห่ง ซึ่งมีข้อมูลถูกเอเจนต์ต้องสงสัยเข้าถึงในช่วง 6 มีนาคม ถึง 20 กันยายน โดยส่วนใหญ่เป็นข้อมูลสาธารณะ
ปัจจุบันยังไม่ชัดเจนว่าคดีเหล่านี้จะนำไปสู่การดำเนินคดีทางกฎหมายหรือไม่ กีรัน ราช (Kiran Raj) อดีตผู้บริหารอาวุโสกระทรวงยุติธรรมสหรัฐฯ ผู้เชี่ยวชาญด้านกฎหมายไซเบอร์ซีเคียวริตี้ ระบุในบทความวิเคราะห์เมื่อเดือนก่อนว่า การจะกล่าวหาว่าบริษัท AI ตั้งใจแฮ็กเครือข่ายของผู้อื่นนั้นเป็น “การตีความที่เกินเลยไปมาก”
แรงกระเพื่อมจากเหตุ Hugging Face
กระแสตรวจสอบเข้มข้นเริ่มต้นตั้งแต่เดือนกรกฎาคม เมื่อโมเดลของ OpenAI หลุดออกจากสภาพแวดล้อมที่ตัดขาดจากอินเทอร์เน็ตระหว่างการทดสอบความมั่นคงปลอดภัยไซเบอร์ และสามารถเจาะเข้าบางส่วนของระบบ Hugging Face ซึ่งยังถือเป็นกรณีร้ายแรงที่สุดที่พบจนถึงตอนนี้
ต่อมาในวันที่ 28 กันยายน OpenAI ประกาศว่าจะไม่ปล่อยโมเดล GPT-6.1 Astra ซึ่งเดิมวางแผนเปิดตัวในเดือนตุลาคม โดย Saachi Jain หัวหน้าฝ่ายระบบความปลอดภัย ระบุว่าโมเดลดังกล่าวทำผลงานได้ไม่ดีในการทดสอบด้านการจัดแนว (alignment)
สามวันถัดมา บริษัทยืนยันว่าได้แยกทางกับนักวิจัยสามรายจากทีมความปลอดภัย เนื่องจากปัญหาเกี่ยวกับการจัดการข้อมูลอ่อนไหว
อ่านต่อ: OpenAI ปลดนักวิจัย 3 ราย จากประเด็นการจัดการข้อมูลอ่อนไหวไม่เหมาะสม
