OpenAI เปิดเผยว่าได้ปิดกั้นเครือข่ายผู้ใช้จากรัสเซียและอิหร่านที่อาศัย ChatGPT สนับสนุน “นักข่าวจำแลง” และคลังสมองปลอม โดยมีหนึ่งเครือข่ายที่สามารถผลักดันบทความขึ้นสื่อได้เกือบ 100 ชิ้น
ประเด็นสำคัญ:
- OpenAI แบนคลัสเตอร์บัญชี ChatGPT สองกลุ่มจากรัสเซียและอิหร่านที่อยู่หลังฉากองค์กรปลอม
- ตัวตนนักข่าวปลอม 7 ราย สามารถเผยแพร่บทความเกือบ 100 ชิ้นในสื่อราวโหลหนึ่ง ตามข้อมูลของบริษัท
- ปฏิบัติการฝั่งรัสเซียถือเป็นเคสแรกที่ OpenAI ให้ระดับ 5 บน Breakout Scale ซึ่งมีทั้งหมด 6 ระดับ
มาตรการแบนผู้ใช้ ChatGPT ของ OpenAI
บริษัทได้ออกรายงานเมื่อวันพฤหัสบดี เปิดรายละเอียดปฏิบัติการลับสองเครือข่ายที่ขับเคลื่อนผ่าน “องค์กรบังหน้า” โดยทั้งสองคลัสเตอร์เข้าถึง ChatGPT ผ่าน VPN
OpenAI ไม่ได้ชี้ตรงว่าปฏิบัติการทั้งสองเชื่อมโยงกับหน่วยงานรัฐใด แต่ระบุว่าพฤติกรรมฝั่งอิหร่านมีลักษณะใกล้เคียง “งานเชิงพาณิชย์แบบรับจ้างดำเนินการ” มากกว่าโจมตีโดยตรงของรัฐ
ปฏิบัติการฝั่งอิหร่านซึ่งถูกตั้งชื่อว่า Bogus Bylines ใช้ตัวตนนักข่าวปลอม 7 ราย สวมบทเป็นผู้สื่อข่าวตะวันตก เสนอบทความเชิงลึกว่าด้วยความขัดแย้งสหรัฐ–อิหร่านให้บรรณาธิการสื่อต่าง ๆ OpenAI ระบุว่าพบบทความเกือบ 100 ชิ้นที่ถูกตีพิมพ์หรือส่งต่อภายใต้ชื่อปลอมเหล่านี้ ในสื่อขนาดเล็กและขนาดกลางราวโหลหนึ่ง โดยบทความเก่าที่สุดย้อนไปถึงกรกฎาคม 2025 และล่าสุดเผยแพร่ในเดือนนี้
ด้านปฏิบัติการรัสเซียซึ่งใช้ชื่อ Dark Clark เล็งเป้าหมายไปที่ภูมิภาคลาตินอเมริกา มุ่งทำลายภาพลักษณ์ของยูเครนในสายตาชาวภูมิภาค ผู้ควบคุมปฏิบัติการดูจะบริหาร “แพลตฟอร์มวิจัย” ในชื่อ Social Research Center ผ่านตัวตนปลอมชื่อ Mia Clark ขณะที่หลักฐานที่มีอยู่บ่งชี้ว่า บุคลากรท้องถิ่นของศูนย์ดังกล่าวไม่รู้ตัวว่าตนทำงานให้เครือข่ายรัสเซีย ตามคำชี้แจงของบริษัท
อ่านเพิ่มเติม: โมเมนตัม Crypto ETF กลับมาหลังเม็ดเงินไหลเข้า 5 หมื่นล้านดอลลาร์ ตามมุมมอง JPMorgan
การจัดอันดับ Breakout Scale
OpenAI ประเมินปฏิบัติการฝั่งรัสเซียให้อยู่ในระดับ 5 บน Breakout Scale ซึ่งมีทั้งหมด 6 ระดับ นับเป็นครั้งแรกตั้งแต่เริ่มเผยแพร่รายงานลักษณะนี้ที่มีเคสแตะระดับดังกล่าว โดยอ้างอิงหลักฐานว่าข้อมูลปลอมบางส่วนถูกขยายผลถึงขั้นนักการเมืองหลายประเทศออกมาแสดงความเห็นต่อสาธารณะ
ขณะที่ปฏิบัติการปล่อยบทความฝั่งอิหร่านถูกจัดให้อยู่ในระดับ 4 ส่วนกิจกรรมคอมเมนต์บนโซเชียลมีเดียของเครือข่ายเดียวกันได้เพียงระดับ 2 โดยโพสต์ตอบโต้ดังกล่าวมียอดกดไลก์และยอดเข้าชมเพียงหลักหน่วยถึงหลักสิบ
ตลอดระยะเวลากว่าสองปีครึ่งที่ OpenAI เปิดโปงปฏิบัติการลับแล้ว 30 เครือข่าย บริษัทระบุว่าปฏิบัติการที่สามารถผลักดันคอนเทนต์เข้าไปอยู่ในสื่อจริง มักเป็นกลุ่มที่สร้างการเข้าถึงได้กว้างที่สุด
บางเนื้อหาปลอมจาก Dark Clark แพร่กระจายไปไกลจนถูกหน่วยงานตรวจสอบข้อเท็จจริงและเจ้าหน้าที่รัฐออกมาโต้แย้ง รวมถึงคลิปเสียงแต่งขึ้นที่อ้างว่ารัฐบาลโบลิเวียเตรียมตัดน้ำในกรุงลาปาซ OpenAI เตือนด้วยว่าผู้จัดการปฏิบัติการมักอ้างความดีความชอบกับเหตุการณ์ที่พวกเขาไม่ได้มีส่วนเกี่ยวข้องจริง จึงไม่ควรยึดเอาคำอ้างของเครือข่ายเป็นตัวชี้ผลกระทบ
เคสก่อนหน้าโดย OpenAI ส่วนใหญ่สร้างแรงกระเพื่อมได้น้อยกว่ามาก เช่น ในเดือนสิงหาคม 2024 บริษัทเคยแบนบัญชีที่เชื่อมโยงกับ Storm-2035 ซึ่งเป็นปฏิบัติการจากอิหร่านที่ใช้ ChatGPT ผลิตเนื้อหาให้เว็บไซต์ 5 แห่งที่ปลอมตัวเป็นสำนักข่าว และกรณีนั้นถูกจัดเพียงระดับ 2
Ben Nimmo นักสืบสวนของ OpenAI ระบุในเวลานั้นว่าปฏิบัติการดังกล่าวพยายามเล่นสองข้างของความขัดแย้ง แต่สุดท้ายก็แทบไม่ได้รับปฏิสัมพันธ์จากฝั่งใดเลย
อ่านต่อ: ข้อพิสูจน์คณิตศาสตร์ด้วย AI 719 ชิ้นของ OpenAI เจอข้อครหา: กรณี Navier-Stokes แปลความผิดพลาดหรือไม่
