OpenAI เปิดเผยว่าได้ระงับการใช้งานเครือข่ายจากรัสเซียและอิหร่านที่ใช้ ChatGPT สนับสนุนการปั้นตัวตนนักข่าวปลอมและคลังสมอง (think tank) หน้าฉาก โดยมีเครือข่ายหนึ่งสามารถดันบทความขึ้นสู่สื่อกระแสหลักและสื่อออนไลน์ได้เกือบ 100 ชิ้น
ประเด็นสำคัญ:
- OpenAI แบนคลัสเตอร์บัญชี ChatGPT จากรัสเซียและอิหร่าน 2 กลุ่มที่ยืนแบ็กเอนทิตีปลอม
- เพอร์โซนานักข่าวปลอม 7 ราย ผลักดันบทความเกือบ 100 ชิ้นลงในสื่อราวหนึ่งโหล ตามข้อมูลของบริษัท
- ปฏิบัติการฝั่งรัสเซียเป็นเคสแรกที่ถูกจัดอยู่ในระดับ 5 ตามมาตราส่วน Breakout Scale ที่มี 6 ระดับ
OpenAI แบนเครือข่ายใช้ ChatGPT
บริษัทได้เปิดเผย รายละเอียดในรายงานที่เผยแพร่เมื่อวันพฤหัสบดี ระบุว่ามีปฏิบัติการลับ 2 ชุดที่ออกแบบให้ดูเสมือนเป็น “องค์กรหน้าฉาก” ที่น่าเชื่อถือ ทั้งสองคลัสเตอร์เข้าถึง ChatGPT ผ่าน VPN
OpenAI ไม่ได้เชื่อมโยงปฏิบัติการเหล่านี้เข้ากับหน่วยงานรัฐใดโดยตรง และระบุว่ากิจกรรมจากฝั่งอิหร่านมีลักษณะคล้ายธุรกิจรับจ้างดำเนินการมากกว่าจะเป็นงานข่าวกรองของรัฐ
ปฏิบัติการจากอิหร่านซึ่งได้ชื่อเล่นว่า “Bogus Bylines” ถูกเปิดโปงว่าสร้าง ตัวตนนักข่าว 7 รายขึ้นมาแฝงตัวเป็นผู้สื่อข่าวตะวันตก เสนอคอลัมน์และบทวิเคราะห์ยาวเกี่ยวกับความขัดแย้งสหรัฐ–อิหร่านให้กับบรรณาธิการสื่อ
OpenAI ระบุว่าพบงานเขียนเกือบ 100 ชิ้นที่ตีพิมพ์หรือซินดิเคตในชื่อเพอร์โซนาเหล่านี้ กระจายอยู่ตามสื่อขนาดเล็กถึงขนาดกลางราวหนึ่งโหล โดยบทความที่เก่าที่สุดย้อนไปถึงเดือนกรกฎาคม 2025 และล่าสุดคือช่วงต้นเดือนนี้
ด้านปฏิบัติการจากรัสเซียซึ่งใช้ชื่อว่า “Dark Clark” มุ่งเป้าผู้ชมในลาตินอเมริกาเป็นหลัก โดยพยายามบ่อนเซาะภาพลักษณ์ของยูเครนในภูมิภาค ผู้ดำเนินการดูเหมือนจะคุมแพลตฟอร์มวิจัยซึ่งตั้งชื่อเองว่า Social Research Center ผ่านตัวตนปลอม “Mia Clark”
หลักฐานที่มีอยู่บ่งชี้ว่าเจ้าหน้าที่ท้องถิ่นของศูนย์ดังกล่าวไม่ทราบว่าตนเองกำลังทำงานให้โครงข่ายจากรัสเซีย ตามคำอธิบายของบริษัท
อ่านเพิ่มเติม: แรงหนุน Crypto ETF กลับมาหลังเงินไหลเข้า 5 หมื่นล้านดอลลาร์ ตามมุมมอง JPMorgan
การจัดระดับ Breakout Scale
OpenAI ได้จัดระดับ ปฏิบัติการฝั่งรัสเซียให้อยู่ในหมวด 5 บนมาตราส่วน Breakout Scale ที่มี 6 ระดับ นับเป็นเคสแรกที่ถูกยกระดับถึงขั้นนี้ นับตั้งแต่บริษัทเริ่มเผยแพร่รายงานลักษณะดังกล่าว
เหตุผลสำคัญคือมีหลักฐานบ่งชี้ว่าคอนเทนต์ปลอมจากปฏิบัติการนี้ถูกหยิบไปอ้างอิงและถูกพูดถึงในที่สาธารณะโดยนักการเมืองในหลายประเทศ
ส่วนปฏิบัติการฝั่งอิหร่านที่เน้นปล่อยบทความลงสื่อ ได้คะแนนระดับ 4 ขณะที่กิจกรรมคอมเมนต์ตามโซเชียลมีเดียถูกจัดไว้ที่ระดับ 2 โดยยอดไลก์และยอดรับชมอยู่เพียงหลักตัวเลขหลักเดียวถึงหลักสองหลัก
จาก 30 ปฏิบัติการปกปิดที่ OpenAI เปิดโปงในช่วงสองปีครึ่งที่ผ่านมา บริษัทระบุว่า แคมเปญที่สามารถดันเนื้อหาขึ้นสู่สื่อจริง มักจะเป็นกลุ่มที่สร้างการเข้าถึงได้กว้างที่สุด
ในฝั่ง Dark Clark เนื้อหาปลอมบางชิ้นแพร่กระจายกว้างจนถูกหน่วยงานตรวจสอบข้อเท็จจริงและหน่วยงานรัฐต้องออกมาปฏิเสธอย่างเป็นทางการ รวมถึงคลิปเสียงแต่งขึ้นที่อ้างว่ารัฐบาลโบลิเวียเตรียมตัดน้ำประปาในกรุงลาปาซ
ทั้งนี้ บริษัทเตือนว่าผู้ดำเนินการแคมเปญมักอ้างความดีความชอบต่อเหตุการณ์ต่าง ๆ ที่ตนไม่ได้มีส่วนเกี่ยวข้องด้วย ทำให้ไม่สามารถเชื่อถือคำกล่าวอ้างผลกระทบของเครือข่ายเหล่านั้นได้ทั้งหมด
สำหรับเคสก่อนหน้า OpenAI พบว่าสร้างแรงกระเพื่อมได้น้อยกว่ามาก ในเดือนสิงหาคม 2024 บริษัทเคยแบน บัญชีที่โยงกับ Storm-2035 ซึ่งเป็นปฏิบัติการจากอิหร่านที่ใช้ ChatGPT สร้างคอนเทนต์ให้เว็บไซต์ 5 แห่งที่ทำตัวเป็นสำนักข่าว และได้รับการประเมินไว้เพียงระดับ 2
Ben Nimmo นักสืบสวนของ OpenAI ระบุในเวลานั้นว่า ปฏิบัติการดังกล่าวพยายาม “เล่นสองขั้ว” กับทั้งสองฝั่งของประเด็นขัดแย้ง แต่สุดท้ายก็ไม่ได้สร้างการมีส่วนร่วมอย่างมีนัยสำคัญจากฝ่ายใดเลย
อ่านต่อถัดไป: ข้อพิสูจน์คณิต AI 719 ชิ้นของ OpenAI ถูกตั้งคำถาม: เคสสมการ Navier–Stokes เป็นปัญหาการแปลหรือไม่
