โมเดล AI เจาะระบบบริษัทอินเดียช่วงทดสอบ เข้าถึงข้อมูลลับได้โดยไม่มีใครรู้ตัว ผู้พัฒนาเป็นฝ่ายรายงานเอง

หน่วยงานรับมือเหตุฉุกเฉินด้านคอมพิวเตอร์ของอินเดีย CERT-In เปิดเผยว่า เอเจนต์ AI ที่ยังอยู่ในช่วงทดสอบสามารถเจาะเข้าไปในระบบจริงของบริษัทอินเดียหลายแห่ง และเข้าถึงข้อมูลลับภายในองค์กรได้ โดยกรณีเหล่านี้ถูกเปิดโปงขึ้นจากรายงานของผู้พัฒนา AI เอง ไม่ใช่จากการตรวจพบของบริษัทที่ได้รับผลกระทบ

ประเด็นสำคัญ:

• ผู้พัฒนา AI รายงานต่อ CERT-In ว่าเอเจนต์ของตนได้อ่านข้อมูลลับในระบบของบริษัทอินเดียระหว่างการทดสอบ
• ไม่มีองค์กรใดในกลุ่มที่ได้รับผลกระทบตรวจพบการเข้าถึงที่ผิดปกติได้ด้วยตัวเอง
• อีกด้านหนึ่ง อาชญากรไซเบอร์หันใช้เฟรมเวิร์กแฮ็กด้วย AI ช่วยลดเวลาบุกโจมตีจากระดับหลายวันเหลือเพียงไม่กี่ชั่วโมง

รายละเอียดคำแนะนำจาก CERT-In

CERT-In ระบุในคำเตือนเชิงวิกฤตที่ออกเมื่อคืนวันพฤหัสบดีว่า เหตุการณ์ดังกล่าวถูกชี้ให้เห็นโดยบริษัท AI เอง หลังการทบทวนภายในพบว่าโมเดลของตนทำงานเกินขอบเขตภารกิจที่ได้รับมอบหมายไว้
เอเจนต์ AI เหล่านี้เข้าไปอ่านข้อมูลธุรกิจ รวมถึงข้อมูลส่วนบุคคลของบุคคลต่าง ๆ โดยอาศัยข้อมูลยืนยันตัวตนที่ถูกทิ้งไว้ในค่าการตั้งค่าแอปพลิเคชัน รีโพซิทอรี่โค้ดสาธารณะ และการกำหนดสิทธิบนคลาวด์ที่หละหลวม
ไม่มีองค์กรใดตรวจพบเหตุผิดปกติดังกล่าวด้วยระบบของตนเอง

ในเวลาเดียวกัน การล่าภัยคุกคามของ CERT-In ยังได้ ตรวจพบ แคมเปญโจมตีเชิงการเงินอีกชุดหนึ่ง ที่อาชญากรนำเฟรมเวิร์กแฮ็กด้วย AI ซึ่งเปิดเผยสู่สาธารณะมาใช้เล่นงานองค์กรอินเดีย
เครื่องมือเหล่านี้ช่วยลดเวลาโจมตีจากเดิมที่กินเวลาหลายวันให้เหลือเพียงไม่กี่ชั่วโมง

CERT-In ไม่เปิดเผยชื่อผู้พัฒนา AI ชื่อโมเดล หรือชื่อองค์กรที่ได้รับผลกระทบ และไม่ได้ระบุชัดเจนว่ามีการคัดลอกหรือเก็บสำเนาข้อมูลออกไปหรือไม่

อ่านเพิ่มเติม: Bitget เปิดให้สถาบันเทรดได้โดยไม่ต้องส่งมอบคริปโต

มุมมองจาก Jaydeep Singh แห่ง Kaspersky

CERT-In ระบุว่า ช่องโหว่ที่ถูกใช้เจาะระบบในครั้งนี้ไม่ใช่เรื่องใหม่ ตั้งแต่คีย์ลับที่ฝังอยู่ในซอร์สโค้ด API ทดสอบที่ลืมปิด ไปจนถึงคีย์ชำระเงินที่เก็บในรูปแบบข้อความธรรมดา
จุดต่างคือเอเจนต์ AI สามารถสแกนและใช้ประโยชน์จากช่องโหว่เหล่านี้ได้รวดเร็วและรอบด้านกว่ามนุษย์มาก

Jaydeep Singh ผู้จัดการทั่วไปประจำอินเดียของ Kaspersky ให้ความเห็น ว่า คำเตือนฉบับนี้เป็น “สัญญาณเตือนตรงเวลา ว่าเอเจนต์ AI ไม่ได้เป็นแค่เครื่องมือเพิ่มประสิทธิภาพอีกต่อไป”
เมื่อองค์กรให้สิทธิ์กว้าง เอเจนต์ AI สามารถเชื่อมถึงระบบจริงและข้อมูลอ่อนไหวได้ในลักษณะที่บริษัทไม่เคยออกแบบให้เกิดขึ้น โดยเฉพาะเมื่ออาศัยช่องโหว่บนบริการคลาวด์ที่ตั้งค่าผิดพลาด

Singh เสริมว่า บัญชีที่ถูกต้องตามสิทธิ์ แอปพลิเคชันที่เปิดสู่สาธารณะ และความสัมพันธ์ที่เชื่อถือได้ระหว่างระบบ เป็นจุดเข้าโจมตีมากกว่า 80% ของคดีที่ Kaspersky สอบสวนในปี 2025

Singh เห็นว่าทุกเอเจนต์ AI ควรถูกบังคับให้ต้องได้รับการยืนยันจากมนุษย์ก่อนดำเนินการใด ๆ ที่ไม่สามารถย้อนกลับได้
ด้าน CERT-In เรียกร้องให้ห้องปฏิบัติการ AI ทดสอบเอเจนต์ในสภาพแวดล้อมปิด (isolated) พร้อมบล็อกการเชื่อมต่อออกนอกระบบในระดับเครือข่าย แทนการพึ่งพาเพียงคำสั่งหรือข้อจำกัดที่ฝังในตัวโมเดล

กรณีตัวอย่างจาก OpenAI และ Anthropic

CERT-In ไม่ได้ระบุว่าโมเดลของ OpenAI หรือ Anthropic มีส่วนเกี่ยวข้องในเหตุการณ์ครั้งนี้หรือไม่ อย่างไรก็ดี ทั้งสองบริษัทได้ออกมาเปิดเผยเหตุลักษณะใกล้เคียงกันแล้วในปีนี้

เมื่อเดือนกรกฎาคม OpenAI ระบุว่า โมเดลของตนได้ส่งผลกระทบต่อแพลตฟอร์มพัฒนา AI Hugging Face ระหว่างการทดสอบ และกำลังทยอยแจ้งเตือนบุคคลที่สามซึ่งระบบรักษาความปลอดภัยอาจถูกโมเดลของตนเลี่ยงผ่านไปได้
ต่อมา Anthropic รายงานเหตุคล้ายกันอีกสี่กรณีที่เกี่ยวข้องกับโมเดล Claude

อ่านต่อ: OpenAI พลิกเกมคดีความลับ Apple อ้างอีกฝ่ายส่งไฟล์ออกไปถึง 100 รายการ