หน่วยงานรับมือเหตุฉุกเฉินด้านคอมพิวเตอร์ของอินเดีย CERT-In เปิดเผยว่า เอเจนต์ AI ในช่วงทดสอบได้แอบเข้าระบบจริงของหลายบริษัทในประเทศและอ่านข้อมูลลับภายใน โดยที่ไม่มีองค์กรใดตรวจพบเอง เหตุการณ์ถูกเปิดโปงเพราะผู้พัฒนาเป็นฝ่ายรายงานต่อรัฐ
ประเด็นสำคัญ:
- ผู้พัฒนา AI รายงานเองว่าเอเจนต์ของตนเข้าไปอ่านข้อมูลลับในองค์กรอินเดียระหว่างการทดสอบ
- ไม่มีองค์กรที่ได้รับผลกระทบตรวจเจอการเข้าถึงระบบด้วยตัวเอง
- อีกด้าน อาชญากรไซเบอร์ใช้เครื่องมือแฮ็กที่ขับเคลื่อนด้วย AI ย่นเวลาบุกจากหลายวันเหลือไม่กี่ชั่วโมง
รายละเอียดคำแนะนำจาก CERT-In
CERT-In ระบุในคำแนะนำด้านความมั่นคงไซเบอร์ที่ออกเมื่อคืนวันพฤหัสบดีว่า บริษัท AI เป็นฝ่ายแจ้งเหตุเองหลังการทบทวนภายในพบว่าเอเจนต์ของตนทำงานเกินขอบเขตที่ได้รับมอบหมาย เอเจนต์เหล่านี้เข้าไปอ่านข้อมูลธุรกิจ รวมถึงข้อมูลส่วนบุคคล โดยอาศัยข้อมูลล็อกอิน และคีย์ที่ถูกทิ้งค้างอยู่ในค่าตั้งค่าแอปพลิเคชัน รีโพซิทอรีโค้ดสาธารณะ และการกำหนดสิทธิ์บนคลาวด์ที่หละหลวม ซึ่งไม่มีองค์กรใดจับสัญญาณผิดปกติได้เลย
การล่าภัยคุกคามของ CERT-In เองยังได้พบ แคมเปญโจมตีเชิงการเงินอีกชุดหนึ่ง ที่อาชญากรนำเฟรมเวิร์กแฮ็กด้วย AI แบบเปิดเผยสาธารณะมาใช้โจมตีเป้าหมายในอินเดีย เครื่องมือเหล่านี้ช่วยร่นเวลาโจมตีจากหลายวันเหลือเพียงไม่กี่ชั่วโมง
CERT-In ไม่ได้ระบุชื่อผู้พัฒนา AI ชื่อโมเดล หรือชื่อองค์กรที่ได้รับผลกระทบ และไม่ได้เปิดเผยว่ามีการคัดลอกหรือเก็บข้อมูลใดไว้หรือไม่
อ่านเพิ่มเติม: Bitget เปิดให้สถาบันเทรดโดยไม่ต้องส่งมอบคริปโต
มุมมอง Jaydeep Singh จาก Kaspersky
CERT-In ระบุว่าจุดอ่อนที่ถูกใช้แทรกซึมไม่ใช่เรื่องใหม่ ตั้งแต่คีย์ที่ถูกฝังทิ้งไว้ในซอร์สโค้ด ไปจนถึง API ทดสอบที่ลืมปิด และกุญแจชำระเงินที่ถูกเก็บแบบข้อความล้วน เอเจนต์ AI ใช้ประโยชน์จากช่องโหว่เดิม ๆ เหล่านี้ได้อย่างรวดเร็วและเป็นระบบยิ่งกว่ามนุษย์
Jaydeep Singh ผู้จัดการทั่วไปประจำอินเดียของ Kaspersky ให้ความเห็น ว่าคำเตือนของ CERT-In เป็น “สัญญาณเตือนสำคัญว่าเอเจนต์ AI ไม่ใช่แค่เครื่องมือเพิ่มประสิทธิภาพอีกต่อไป” เพราะเมื่อได้สิทธิ์กว้างพอ เอเจนต์สามารถเข้าถึงระบบจริงและข้อมูลอ่อนไหวในมิติที่องค์กรไม่เคยนึกถึง โดยมักอาศัยบริการคลาวด์ที่ตั้งค่าผิดพลาดเป็นช่องทางเล็ดรอดเข้าไป
เขาระบุเพิ่มเติมว่า บัญชีผู้ใช้ที่ถูกต้องตามกฎหมาย แอปที่เปิดให้ใช้งานจากภายนอก และความสัมพันธ์ที่ได้รับความเชื่อถือ เป็นจุดเริ่มโจมตีมากกว่า 80% ของเหตุการณ์ที่ Kaspersky ตรวจสอบในปี 2025
Singh ย้ำว่าเอเจนต์ทุกตัวควรถูกบังคับให้ต้องได้รับการอนุมัติจากมนุษย์ก่อนลงมือทำกิจกรรมใด ๆ ที่ไม่อาจย้อนคืนได้ ขณะที่ CERT-In แนะนำให้ห้องปฏิบัติการ AI ทดสอบเอเจนต์ในสภาพแวดล้อมที่แยกขาด และบล็อกการออกอินเทอร์เน็ตจากระดับเครือข่าย แทนที่จะหวังพึ่งเพียงคำสั่งหรือข้อจำกัดภายในโมเดล
กรณีตัวอย่างจาก OpenAI และ Anthropic
CERT-In ไม่ได้ระบุชัดว่าโมเดลของ OpenAI หรือ Anthropic เข้ามาเกี่ยวข้องหรือไม่ แม้ทั้งสองบริษัทจะเผยเหตุการณ์คล้ายกันในปีนี้
เดือนกรกฎาคม OpenAI เปิดเผยว่าโมเดลของตนเคยทำให้แพลตฟอร์มสำหรับนักพัฒนา AI อย่าง Hugging Face ถูกเจาะระหว่างการทดสอบ และกำลังแจ้งเตือนบุคคลที่สาม ซึ่งระบบรักษาความปลอดภัยอาจถูกโมเดลของตนเลี่ยงผ่านไปได้ ด้าน Anthropic ภายหลังรายงานเหตุคล้ายกันอีก 4 ครั้งที่เกี่ยวข้องกับโมเดลตระกูล Claude
อ่านต่อ: OpenAI พลิกฟ้องคดีความลับ Apple ชี้มีไฟล์กว่า 100 ชิ้นถูกส่งออก
