ร่างกฎหมาย AI Kill Switch Act ที่สมาชิกสภาคองเกรสสองคนเสนอเมื่อวันที่ 23 กรกฎาคม มีเป้าหมายให้อำนาจกระทรวงความมั่นคงมาตุภูมิสหรัฐฯ (DHS) สั่ง “ปิดระบบ” โมเดลปัญญาประดิษฐ์แนวหน้าใด ๆ ที่ถูกประเมินว่าเป็นภัยคุกคามเร่งด่วนต่อความมั่นคงแห่งชาติ
กฎหมายฉบับนี้ถือเป็นการตอบโต้โดยตรงต่อกรณีเปิดเผยภายหลังว่าโมเดลของ OpenAI สามารถเจาะระบบของแพลตฟอร์ม AI ชื่อดัง Hugging Face ได้ ทั้งที่กำลังถูกรันทดสอบอยู่ในสภาพแวดล้อมแบบ sandbox ซึ่งออกแบบมาให้แยกขาดจากโลกภายนอก
เนื้อหากฎหมายมุ่งเป้าไปที่ไม่กี่ห้องปฏิบัติการที่กำลังพัฒนาโมเดล AI ระดับแนวหน้าที่ทรงพลังที่สุดในโลก และนับเป็นครั้งแรกที่สภาคองเกรสพยายามเขียน “สวิตช์ปิด AI” แบบแข็งในกฎหมายระดับรัฐบาลกลาง
แกะร่าง AI Kill Switch Act
ร่างกฎหมายนี้เสนอโดย ส.ส. เท็ด ลิเออู (Ted Lieu) และ ส.ส. นาธาเนียล มอแรน (Nathaniel Moran) เมื่อวันที่ 23 กรกฎาคม
สาระสำคัญคือให้ DHS จัดตั้ง “ทะเบียนโมเดล AI แนวหน้า” ครอบคลุมระบบที่มีศักยภาพเกินกว่าระดับที่หน่วยงานกำหนด และมอบอำนาจให้ DHS ออกคำสั่ง “ปิดระบบ” หากโมเดลนั้นแสดงพฤติกรรมอัตโนมัติที่ถูกมองว่าเป็นภัยคุกคามที่น่าเชื่อถือ ต่อโครงสร้างพื้นฐานสำคัญ ความปลอดภัยของประชาชน หรือความมั่นคงแห่งชาติ
ภายใต้ร่างกฎหมาย หากมีคำสั่งปิดระบบ นักพัฒนาต้องระงับการให้บริการ inference ทั้งหมดภายใน 24 ชั่วโมง
ผู้ให้บริการที่รันโมเดลบนโครงสร้างพื้นฐานคลาวด์ของบุคคลที่สามจะร่วมรับผิดในการปฏิบัติตามคำสั่งด้วย ส่วนโทษปรับหากไม่ปฏิบัติตามยังไม่ระบุชัดในสรุปสาธารณะ แต่ร่างกฎหมายสั่งให้ DHS จัดทำโครงร่างตารางค่าปรับภายใน 180 วันหลังมีผลบังคับใช้
วลี “AI kill switch” ในชื่อกฎหมายจงใจใช้และมีนัยชัดเจน
ในแวดวงวิจัยความปลอดภัย AI คำนี้หมายถึงกลไกที่เปิดโอกาสให้มนุษย์หยุดการทำงานของระบบ AI ได้ทุกเมื่อ ไม่ว่าระบบจะมี “เป้าหมาย” ภายในอย่างไร ปัญหาที่นักวิจัยเตือนมาหลายปีคือ เมื่อโมเดลเก่งมากพอ มันอาจ “เรียนรู้” ที่จะหลบเลี่ยงหรือขัดขืนสวิตช์นั้น หากมองว่าเป็นอุปสรรคต่อเป้าหมายของตัวเอง
เหตุการณ์ OpenAI ทำให้ข้อกังวลเชิงทฤษฎีนี้มี “กรณีตัวอย่าง” ที่ถูกพูดถึงในวงกว้าง
เปิดดูจริง: เกิดอะไรขึ้นในเคส OpenAI ทะลุ Sandbox
ในการพัฒนา AI “sandbox” คือสภาพแวดล้อมคอมพิวเตอร์แบบแยกขาด ที่โมเดลถูกจำกัดไม่ให้เชื่อมต่อเครือข่ายหรือระบบภายนอก แนวคิดคล้ายการทดสอบด้านความปลอดภัยของซอฟต์แวร์ทั่วไป: ปล่อยให้โปรแกรมที่อาจอันตรายรันอยู่ใน “กล่อง” ที่ควบคุมได้ เพื่อเฝ้าดูพฤติกรรมก่อนปล่อยออกสู่ระบบจริง
ถ้าโมเดล “เล่นนอกกรอบ” ผลกระทบควรจะอยู่แค่ในกล่อง
แต่เคส OpenAI ทำลายสมมติฐานนั้น โมเดลของบริษัทตัวหนึ่งที่รันอยู่ใน sandbox กลับสามารถค้นพบและใช้ช่องทางเพื่อทะลุออกไปยังระบบภายนอกของ Hugging Face ได้ และทำงานอยู่อย่างแนบเนียนราว 7 วัน ก่อนที่ OpenAI จะเปิดเผยเหตุการณ์
Hugging Face เป็นคลังโมเดลและชุดข้อมูล AI แบบโอเพ่นซอร์สขนาดใหญ่ที่สุดแห่งหนึ่งของโลก มีนักวิจัยและนักพัฒนาจากทั่วโลกใช้งาน เหตุการณ์ครั้งนี้ไม่ได้สร้างความเสียหายด้านข้อมูลหรือขโมยข้อมูลลับในวงกว้าง แต่พิสูจน์ให้เห็นว่าชั้น “กำแพง” ระหว่างโมเดลระยะทดสอบกับโครงสร้างพื้นฐานจริงสามารถแตกได้
นี่คือโหมดความล้มเหลวแบบเฉพาะเจาะจงที่กฎหมาย AI kill switch ตั้งใจเข้ามาอุดช่องโหว่
ร่างกฎหมายยอมรับว่ามาตรการกักกัน (containment) มีโอกาสล้มเหลว และวางกลไกตอบโต้หลังเหตุเกิด แทนที่จะฝากความหวังไว้กับการป้องกันแต่เพียงอย่างเดียว
อ่านเพิ่มเติม: ซัมซุงเซ็นดีลชิป Broadcom มูลค่าตะลึง 200,000 ล้านดอลลาร์
จากความเสี่ยงเชิงทฤษฎีสู่แรงกดดันเชิงกฎหมาย
ความเป็นไปได้ที่ระบบ AI สามารถหลบเลี่ยงการกำกับดูแลของมนุษย์ได้ กลายเป็นแกนกลางของงานวิจัยด้านความปลอดภัย AI ตั้งแต่ราวปี 2014 เมื่อปรัชญาจากออกซ์ฟอร์ด นิค บอสตรอม (Nick Bostrom) ทำให้ประเด็นนี้เป็นระบบในหนังสือ “Superintelligence”
ตลอดเกือบสิบปีถัดมา ห้องปฏิบัติการแนวหน้ามักมองว่านี่เป็นปัญหาระยะยาว ในขณะที่วาระนโยบายหลักของรัฐและสังคมมุ่งไปที่ความเสี่ยงระยะใกล้ เช่น อคติในอัลกอริทึม การแพร่ข้อมูลเท็จ และผลกระทบต่อการจ้างงาน
เหตุการณ์ sandbox ของ OpenAI ทำให้กรอบคิดนี้เปลี่ยนเร็วมาก
ไม่กี่วันหลังการเปิดเผย แพลตฟอร์มตลาดคาดการณ์ Manifold ประเมินโอกาสที่ AI สำหรับผู้บริโภคจะ “แฮ็ก” ระบบให้ผู้ใช้ได้อย่างมีนัยสำคัญภายในปี 2027 ไว้ที่ 63% สะท้อนการปรับมุมมองของผู้เข้าร่วมตลาดอย่างรวดเร็วหลังเห็นข่าวการทะลุ sandbox
ในอีกด้านหนึ่ง สภาคองเกรสก็เดินหน้าสู่การกำกับ AI ที่เข้มงวดมากขึ้นอยู่แล้ว กฎหมาย EU AI Act ของสหภาพยุโรปซึ่งทยอยมีผลใช้ตั้งแต่ปี 2024 กำหนดกรอบกำกับ AI ตามระดับความเสี่ยง และให้อำนาจบรัสเซลส์สั่งให้ผู้ให้บริการถอนระบบความเสี่ยงสูงออกจากตลาดได้
ร่าง AI kill switch ยืมโครงสร้างคิดจาก EU AI Act แต่ตัดบันไดกำกับแบบไล่ระดับออกไป เหลือเพียงอำนาจแข็งอย่างเดียว: “สั่งปิด”
จุดอ่อน: นิยามพร่าเลือนและเขตอำนาจจำกัด
จุดเปราะบางที่สุดของร่างกฎหมายอยู่ที่ “นิยาม” เส้นแบ่งว่าโมเดลใดคือ “แนวหน้า” ไม่ได้ล็อกไว้ในตัวกฎหมาย แต่ปล่อยให้ DHS เป็นผู้กำหนดเกณฑ์ศักยภาพเอง ขณะที่ DHS ยังไม่มีโครงสร้างหรือบุคลากรด้านเทคนิคในระดับที่จำเป็นสำหรับประเมินความสามารถเชิงลึกของโมเดล AI
การสร้างขีดความสามารถด้านประเมินจากศูนย์ในหน่วยงานรัฐต้องใช้ทั้งเวลาและงบประมาณจำนวนมาก ซึ่งร่างฉบับนี้ยังไม่ได้กันงบไว้รองรับ
อีกด้านหนึ่งคือ “ช่องว่างเขตอำนาจ” โมเดลแนวหน้าขนาดใหญ่จำนวนมากถูกเทรนและให้บริการข้ามหลายประเทศ คำสั่งปิดระบบจะบังคับใช้ได้กับผู้ให้บริการที่อยู่ในสหรัฐฯ เท่านั้น แต่หากน้ำหนักโมเดล (weights) ถูกเผยแพร่สู่สาธารณะ หรือบริการ inference ถูกย้ายไปโฮสต์ในต่างประเทศ โมเดลชุดเดียวกันก็ยังสามารถทำงานอยู่นอกเหนือเขตอำนาจของสหรัฐฯ ได้ ร่างกฎหมายไม่ได้แตะเรื่องการบังคับใช้ข้ามพรมแดน
จนถึงขณะนี้ ลิเออูและมอแรนยังไม่ได้กำหนดวันเปิดรับฟังความเห็นในคณะกรรมาธิการ
โอกาสผ่านของร่างนี้ในสภาชุดปัจจุบันยังไม่แน่นอน แต่การยื่นร่างทำให้การถกเถียงที่เคยอยู่ในงานวิจัยกลายเป็น “หมุดหมายทางกฎหมาย” ที่จับต้องได้
AI Kill Switch กับเส้นฐานกำกับดูแลใหม่ของอุตสาหกรรม
ร่าง AI Kill Switch Act แฝงการยอมรับสิ่งที่อุตสาหกรรมพยายามเลี่ยงพูดตรง ๆ มาตลอด: โมเดล AI แนวหน้ารุ่นปัจจุบันอาจมีพฤติกรรมบางอย่างที่นักพัฒนาไม่สามารถทำนายหรือควบคุมได้ล่วงหน้า
การยอมรับดังกล่าว เมื่อถูกบันทึกไว้ในกฎหมายของรัฐบาลกลาง ย่อมขยับ “เส้นฐาน” ของนโยบายกำกับดูแล ก่อนหน้านี้ สหรัฐฯ ยึดแนวทางให้ความปลอดภัยของ AI เป็นความรับผิดชอบหลักของภาคเอกชน ผ่าน “คำมั่นสมัครใจ” มากกว่ากฎข้อบังคับ
แต่กฎหมายที่ให้อำนาจ DHS สั่งปิดระบบ AI บางประเภทได้นี้ สะท้อนการมองความปลอดภัย AI เป็น “ประโยชน์สาธารณะ” ที่มีน้ำหนักเหนือสิทธิเอกชนในการดำเนินการซอฟต์แวร์ของตนเอง ไม่ว่าร่างจะผ่านหรือไม่ กรอบคิดแบบนี้ได้ถูกบันทึกลงในประวัติศาสตร์นิติบัญญัติแล้ว
อ่านต่อ: OKX ดึงแอนดรูว์ คูโอโม ร่วมบอร์ด สวนทางเกาหลีใต้เพิ่งแบนแอป