ข่าวกรองผิดพลาดจากเอไอเกือบทำสหรัฐฯ ส่งกำลังขึ้นเรือ

แชตบอตสร้างข้อมูลข่าวกรองเท็จว่าเรือสินค้าจีนลำหนึ่งบรรทุกชิ้นส่วนสำหรับโครงการอาวุธนิวเคลียร์ และแหล่งข่าว 4 รายระบุว่ารายงานดังกล่าวเกือบจุดชนวนให้กองทัพสหรัฐฯ ต้องเข้าตรวจค้นเรือ

ประเด็นสำคัญ:

• กำลังพลสหรัฐฯ ที่ติดอาวุธเตรียมขึ้นตรวจเรือจีนในตะวันออกกลาง ขณะที่เครื่องบินทหารออกบินไปแล้ว
• เจ้าหน้าที่ตรวจพบความคลาดเคลื่อนก่อนปฏิบัติการเพียงไม่นาน หลังพบว่าแชตบอตตีความสินค้าผิด
• นักวิจัยเรียกร้องให้ตั้ง “เส้นแดง” กันเอไอออกจากการตัดสินใจยิงนิวเคลียร์ พร้อมตั้งสายด่วนรับมือเหตุเอไอ

แชตบอตอ่านเอกสารเรือจีนผิด จนข่าวกรองคลาดเคลื่อน

แหล่งข่าวที่รับรู้เหตุการณ์ 4 ราย เปิดเผย ว่า ข้อมูลประเมินชิ้นหนึ่งซึ่งแพร่กระจายอยู่ในกองทัพสหรัฐฯ ช่วงฤดูใบไม้ผลิที่ผ่านมา ระหว่างสงครามกับอิหร่าน ระบุว่าเรือจีนลำหนึ่งในตะวันออกกลางกำลังขนชิ้นส่วนที่เกี่ยวข้องกับโครงการอาวุธนิวเคลียร์ โดยรายงานเกี่ยวกับรายการสินค้าบนเรือลำดังกล่าวเริ่มต้นจากหน่วยบัญชาการปฏิบัติการพิเศษสหรัฐฯ ภาคพื้นแปซิฟิกในรัฐฮาวาย ซึ่งไม่ได้ตอบกลับคำขอให้แสดงความเห็น

ขณะนั้นกำลังพลติดอาวุธเตรียมขึ้นเรือ และเครื่องบินทหารก็อยู่ระหว่างปฏิบัติการในอากาศแล้ว เจ้าหน้าที่จึงตรวจสอบรายงานดังกล่าวเพียงไม่นานก่อนถึงกำหนดปฏิบัติการ และพบ ว่านักวิเคราะห์สร้างรายงานชิ้นนี้ด้วยเอไอ และแชตบอตได้ระบุประเภทสินค้าบนเรือผิดพลาด

แชตบอตนำข้อมูลจากแหล่งเปิดกับสัญญาณข่าวกรองลับที่อยู่ในระบบของรัฐบาลมาผสานกัน ก่อนที่นักวิเคราะห์จะนำผลลัพธ์กลับเข้าเอไออีกครั้ง เพื่อจัดรูปแบบเป็นรายงานข่าวกรองมาตรฐาน

แหล่งข่าวรายหนึ่งเรียกรายงานชิ้นนี้ว่า “ผิดทั้งหมด” ขณะที่ผู้สื่อข่าวยังไม่สามารถยืนยันได้ว่าสินค้าที่บรรทุกจริงคืออะไร หรือแชตบอตดังกล่าวเป็นผลิตภัณฑ์เชิงพาณิชย์หรือของภาครัฐ

อ่านเพิ่มเติม: คาดการณ์หุ้น Nvidia ปี 2030 ชี้ส่วนต่างเป้าระหว่าง 727 ถึง 28,560 ดอลลาร์

ซิสสัน-เจียงเสนอเส้นแดงคุมความเสี่ยงนิวเคลียร์

เมลานี ซิสสัน จาก Brookings Institution และ เทียนเจียว เจียง จาก มหาวิทยาลัยฟูตัน เผยแพร่ ข้อเสนอด้านมาตรการคุ้มกันเอไอทางทหารเมื่อสัปดาห์ที่แล้ว ผ่านเวทีหารือที่สองสถาบันจัดร่วมกับ มหาวิทยาลัยชิงหวา ตั้งแต่ปี 2019 ทั้งคู่ต้องการกำหนดเส้นแดงห้ามเทคโนโลยีนี้เข้าไปมีบทบาทในคำสั่งยิงนิวเคลียร์ และห้ามใช้โจมตีเครือข่ายสั่งการนิวเคลียร์ของฝ่ายตรงข้าม

ทั้งสองยังเสนอให้มีสายด่วนเฉพาะสำหรับเหตุการณ์เกี่ยวกับเอไอ และกำหนดนิยามร่วมของ “การควบคุมโดยมนุษย์อย่างมีนัยสำคัญ” ผลงานของพวกเขาเกิดขึ้นในระบบที่กระจายศูนย์ ไม่มีมาตรฐานกลางเดียวสำหรับตรวจสอบผลลัพธ์ของเครื่องมือเหล่านี้ และระดับความน่าเชื่อถือแตกต่างกันอย่างมากในหน่วยงานรัฐ เจ้าหน้าที่ระบุว่า การใช้งานเอไอในงานกำหนดเป้าหมายยังเพิ่มขึ้นต่อเนื่อง แต่แทบไม่มีแนวทางชัดเจนว่าผู้ตรวจทานที่เป็นมนุษย์จะป้องกันความสูญเสียต่อพลเรือนหรือการยิงพลาดใส่พวกเดียวกันได้อย่างไร

ยุทธศาสตร์เอไอของเฮกเซธถูกจับตา

รัฐมนตรีกลาโหม พีต เฮกเซธ เผยแพร่ ยุทธศาสตร์เร่งรัดในเดือนม.ค. 2026 ซึ่งระบุว่าจะผลักดันกองกำลังแบบ “เอไอก่อน” ครอบคลุมทุกมิติ และนำโมเดลไปใช้กับบุคลากรกว่า 3 ล้านคน อย่างไรก็ดี นับแต่นั้นการนำไปใช้ยังคงกระจัดกระจาย โดยแต่ละหน่วยมีเครื่องมือคนละชุดภายใต้มาตรฐานความปลอดภัยคนละแบบ

วอชิงตันและปักกิ่งเคยเผชิญประเด็นนี้มาก่อน โจ ไบเดน และ สี จิ้นผิง เห็นชอบ ในเดือนพฤศจิกายน 2024 ว่ามนุษย์ ไม่ใช่เครื่องจักร ควรเป็นผู้ควบคุมการตัดสินใจใช้อาวุธนิวเคลียร์ แต่ทั้งสองฝ่ายยังไม่ระบุวิธีบังคับใช้ที่ชัดเจน ขณะที่ โดนัลด์ ทรัมป์ มีกำหนดต้อนรับสี จิ้นผิงที่กรุงวอชิงตันในวันที่ 24 ก.ย. โดยคาดว่าเอไอจะเป็นหนึ่งในวาระหารือ

อ่านต่อ: Google Gemini ถูกใช้โจมตี 3 บริษัท ในการบุกรุกอัตโนมัติที่พบครั้งแรก