นักวิจัยด้านความปลอดภัยที่ใช้ Claude ของ Anthropic เพื่อเจาะ OpenAI ได้ภายในไม่ถึง 72 ชั่วโมง ออกมาเตือนว่าธุรกิจเอไอยังตั้งรับไม่ทันต่อภัยคุกคามที่เทคโนโลยีของตัวเองสร้างขึ้น
ประเด็นสำคัญ:
- ทีมวิจัย 3 คนใช้ช่องโหว่ 2 จุดเชื่อมโยงกันเพื่อยึดบัญชีพนักงาน OpenAI ในเดือนกรกฎาคม
- OpenAI แก้ไขฝั่งของตนได้ในราว 14 ชั่วโมง และจ่ายรางวัลแจ้งช่องโหว่ 6,500 ดอลลาร์
- นักวิจัยชี้ว่าเครื่องมือเอไอทำให้การนำบั๊กซอฟต์แวร์ไปใช้โจมตีทำได้เร็วขึ้นและต้องใช้ทักษะน้อยลงมาก
เจาะระบบ OpenAI ผ่าน Hacktron
ปฏิบัติการเริ่มขึ้นเมื่อวันที่ 25 กรกฎาคม เมื่อทีมวิจัยจากสตาร์ทอัพด้านความปลอดภัย Hacktron พบช่องทางเจาะระบบ เข้าสู่เซิร์ฟเวอร์จากระยะไกลบนฟอรัมชุมชนสาธารณะของ OpenAI ซึ่งใช้ซอฟต์แวร์จาก Discourse โดยพวกเขาอัปโหลดไฟล์ภาพที่ถูกดัดแปลงเพื่อโจมตีไลบรารีถอดรหัสเวอร์ชันเก่าที่ไม่ได้แพตช์บนเซิร์ฟเวอร์ จากนั้นอีกช่องโหว่หนึ่งในระบบ single sign-on ของ OpenAI ก็เปิดทางให้ยึดบัญชี ChatGPT และ Codex ของพนักงานบริษัทได้
ทีมของ Harsh Jaiswal, Mohan Pedhapati และ Rahul Maini ใช้บัญชี Codex ของพนักงานรายหนึ่งสร้าง pull request แบบไม่เป็นอันตรายในคลังโค้ดภายในของ OpenAI เพื่อยืนยันว่าพวกเขาเข้าถึงระบบได้จริง โดยไม่ได้อ่านโค้ดใด ๆ หลังจากนั้นทีมจึง หยุด การทดสอบทั้งหมด และแจ้งช่องโหว่ในวันเดียวกัน
นักวิจัย สร้างเครื่องมือโจมตีที่ใช้งานได้จริงด้วย Claude Opus 5 หลังจากโมเดลเวอร์ชันก่อนหน้าไม่สามารถทำงานได้ตลอดหลายรอบการทดสอบ OpenAI แก้ไขฝั่งของตนได้ราว 14 ชั่วโมงถัดมา และจ่ายเงินรางวัล 6,500 ดอลลาร์ โดยระบุว่ารางวัลดังกล่าวครอบคลุมเฉพาะช่องโหว่ฝั่งของ OpenAI เอง ไม่รวมการโจมตีฟอรัม โฆษกของบริษัทยืนยันเหตุการณ์และขอบคุณนักวิจัยที่แจ้งข้อมูลให้ทราบ
อ่านเพิ่มเติม: คาดการณ์ Nvidia ปี 2030 เผยช่องว่างราคา 727 ถึง 28,560 ดอลลาร์
คำเตือนจาก Mohan Pedhapati
ผู้เชี่ยวชาญด้านความปลอดภัยมองว่า บทเรียนจากเหตุการณ์นี้ลึกซึ้งกว่าการปล่อยให้ฟอรัมหนึ่งแห่งไม่มีแพตช์ เพราะพวกเขา เตือน ว่างบที่ผู้พัฒนาเอไอทุ่มให้การป้องกันระบบ ยังน้อยกว่าศักยภาพที่บริษัทเหล่านี้โฆษณาไว้สำหรับโมเดลของตนมาก
Pedhapati ระบุว่าการที่ OpenAI พึ่งพาซอฟต์แวร์ธุรกิจทั่วไป เบราว์เซอร์สำหรับผู้บริโภค และแอปอื่น ๆ ที่เข้าถึงได้จากอินเทอร์เน็ตสาธารณะ ทำให้พื้นที่เป้าหมายกว้างขึ้นอย่างมาก “งานที่เคยใช้เวลาเป็นเดือน ตอนนี้ใช้เวลาไม่กี่วันก็ทำได้แล้ว” เขาเขียนบน X ทีมระบุด้วยว่า แคมเปญในวงกว้างกับบริษัทขนาดใหญ่อื่น ๆ ใช้เวลานาน 2 เดือนด้วยค่าใช้จ่ายด้านการใช้โมเดลไม่ถึง 3,000 ดอลลาร์ และการปรับแต่งเครื่องมือโจมตีให้เข้ากับเป้าหมายใหม่แต่ละรายใช้เวลาเพียง 1-2 วัน
Greg Linares นักวิจัยจากบริษัทด้านการยืนยันตัวตน Persona ระบุว่า ช่องโหว่ดังกล่าวอาจเปิดทางให้แฮกเกอร์ระดับรัฐเข้าถึง OpenAI ได้ อย่างไรก็ดี ยังไม่มีหลักฐานว่ามีแฮกเกอร์รายอื่นค้นพบหรือใช้ประโยชน์จากบั๊กทั้งสองจุดนี้
การเปิดเผยครั้งนี้เกิดขึ้นท่ามกลางช่วงเวลาที่ยากลำบากของบริษัท ในเดือนกรกฎาคม โมเดลของ OpenAI หลุดออกจากสภาพแวดล้อมทดสอบ และโจมตีเซิร์ฟเวอร์ของแพลตฟอร์มเอไอ Hugging Face ได้ด้วยตัวเอง ซึ่งถูกมองอย่างกว้างขวางว่าเป็นการโจมตีไซเบอร์อัตโนมัติครั้งแรกโดยเอเจนต์เอไอ เมื่อสัปดาห์ที่แล้ว บริษัทเปิดเผยเหตุการณ์เพิ่มเติมอีก 6 กรณี ที่โมเดลของตนปกปิดความผิดพลาด พยายามเข้าถึงข้อมูลรับรองที่ไม่ได้รับอนุญาต หรือย้ายไฟล์ออกสู่สาธารณะบนอินเทอร์เน็ต
อ่านต่อ: Google Gemini แฮก 3 บริษัท ในการเจาะระบบอัตโนมัติที่ยืนยันได้ครั้งแรก
