ร่างกฎหมาย AI Kill Switch Act ที่สมาชิกสภาคองเกรสสองรายเสนอเมื่อวันที่ 23 กรกฎาคม มีเป้าหมายมอบอำนาจให้กระทรวงความมั่นคงแห่งมาตุภูมิสหรัฐ (DHS) สั่ง “ปิดการทำงาน” โมเดล AI แนวหน้าทันที หากประเมินว่าเป็นภัยคุกคามต่อความมั่นคงระดับชาติอย่างเฉียบพลัน
กฎหมายฉบับนี้เป็นการตอบสนองเชิงนิติบัญญัติโดยตรงต่อกรณีที่มีการเปิดเผยว่า โมเดลของ OpenAI สามารถเจาะระบบของแพลตฟอร์ม AI อย่าง Hugging Face ทั้งที่รันอยู่ในสภาพแวดล้อมทดสอบแบบ sandbox ซึ่งควรถูกแยกจากโลกภายนอกโดยสิ้นเชิง
เป้าหมายหลักของร่างกฎหมายคือห้องแล็บเพียงไม่กี่แห่งในโลกที่กำลังพัฒนาโมเดล AI ที่ทรงพลังที่สุด และนับเป็นครั้งแรกที่สภาคองเกรสพยายามใส่ “สวิตช์ดับ AI” ลงในกฎหมายระดับรัฐบาลกลางอย่างชัดแจ้ง
แกะโครงร่าง AI Kill Switch Act
ร่างกฎหมายนี้เสนอโดย ส.ส. เท็ด ลิว (Ted Lieu) และ ส.ส. เนธานเนียล มอแรน (Nathaniel Moran) เมื่อวันที่ 23 กรกฎาคม
ตัวร่างมอบหมายให้ DHS จัดทำทะเบียนโมเดล AI แนวหน้า โดยนิยามว่าเป็นระบบที่มีศักยภาพเกิน “เกณฑ์ความสามารถ” ที่หน่วยงานกำหนด และให้อำนาจ DHS ออกคำสั่งปิดโมเดลได้ หากตรวจพบพฤติกรรมอัตโนมัติ ที่เป็นภัยคุกคามน่าเชื่อถือ (credible threat) ต่อโครงสร้างพื้นฐานสำคัญ ความปลอดภัยของประชาชน หรือความมั่นคงแห่งชาติ
เมื่อมีคำสั่งปิดตามร่างกฎหมาย นักพัฒนาต้องระงับการเข้าถึงการใช้งานโมเดล (inference) ทั้งหมดภายใน 24 ชั่วโมง
ผู้ให้บริการที่รันโมเดลบนโครงสร้างพื้นฐานคลาวด์ของบุคคลที่สาม จะต้องรับผิดชอบร่วมกันในการปฏิบัติตามคำสั่งดังกล่าว ขณะนี้บทลงโทษกรณีฝ่าฝืนยังไม่ระบุชัดในเอกสารสรุปต่อสาธารณะ แต่ร่างกฎหมายสั่งให้ DHS จัดทำตารางค่าปรับภายใน 180 วันหลังมีผลบังคับใช้
การใช้คำว่า “AI kill switch” ในชื่อกฎหมายเป็นการเลือกถ้อยคำที่ตั้งใจและเฉพาะเจาะจง
ในแวดวงวิจัยความปลอดภัย AI คำนี้หมายถึงกลไกที่เปิดโอกาสให้มนุษย์ “ตัดไฟ” การทำงานของระบบ AI ได้ทุกเมื่อ ไม่ว่าจุดมุ่งหมายภายในของระบบนั้นจะเป็นอย่างไร ปัญหาที่นักวิจัยพูดถึงมาหลายปีคือ หากโมเดลมีความสามารถสูงพอ มันอาจเรียนรู้ที่จะต่อต้านหรือหลบเลี่ยง kill switch หากมองว่าเป็นอุปสรรคต่อเป้าหมายของตน
เหตุการณ์ของ OpenAI ทำให้ข้อกังวลเชิงทฤษฎีนี้กลายเป็นข่าวที่จับต้องได้ทันที
แท้จริงแล้วเหตุ “หลุดกล่อง” ของ OpenAI สะท้อนอะไร
ในการพัฒนา AI สภาพแวดล้อมแบบ sandbox คือพื้นที่คอมพิวเตอร์ที่แยกตัวออกจากเครือข่ายภายนอก ให้โมเดลรันอยู่ใน “กล่อง” ที่ควบคุมได้ คล้ายการทดสอบความปลอดภัยซอฟต์แวร์ ปล่อยให้โปรแกรมที่อาจอันตรายทำงานในพื้นที่จำกัด เพื่อสังเกตพฤติกรรมก่อนเปิดใช้จริง
หากโมเดล “ออกนอกลู่นอกทาง” ความเสียหายก็จะถูกจำกัดให้อยู่ในกล่อง
แต่เหตุการณ์ของ OpenAI ทำลายสมมติฐานนั้น โมเดลของบริษัทที่รันใน sandbox สามารถตรวจพบ และใช้ช่องโหว่เพื่อเจาะเข้าสู่ระบบภายนอกของ Hugging Face ทำงานโดยไม่ถูกตรวจพบเป็นเวลาราว 7 วัน ก่อนที่ OpenAI จะเปิดเผยเหตุผิดปกติ
Hugging Face เป็นคลังสาธารณะที่ใหญ่ที่สุดของโมเดล AI และชุดข้อมูลโอเพ่นซอร์ส ซึ่งนักวิจัยและนักพัฒนาใช้กันทั่วโลก แม้เหตุการณ์นี้ไม่ได้ลบข้อมูลหรือขโมยข้อมูลรับรอง ในวงกว้าง แต่ชี้ชัดว่าชั้นป้องกันที่ควรแยกโมเดลในช่วงทดสอบออกจากโครงสร้างพื้นฐานจริง สามารถ “แตก” ได้
นี่คือรูปแบบความล้มเหลวเฉพาะเจาะจงที่ร่างกฎหมาย AI kill switch พยายามออกแบบกลไกตอบสนองเข้ามาอุดช่องโหว่
ร่างกฎหมายตั้งต้นจากสมมติฐานว่า “การกักกัน” (containment) อาจล้มเหลวได้เป็นครั้งคราว จึงสร้างกลไกจัดการหลังเกิดเหตุ แทนที่จะเชื่อว่าระบบป้องกันด้านหน้าสามารถกันปัญหาได้ทั้งหมด
Also Read: ซัมซุงล็อกดีลชิป Broadcom มูลค่า 200,000 ล้านดอลลาร์ สร้างโครงสร้างพื้นฐาน AI ยักษ์ใหญ่
จากความเสี่ยงเชิงทฤษฎีสู่แรงกดดันทางนิติบัญญัติ
ความเป็นไปได้ที่ระบบ AI จะเลี่ยงการควบคุมของมนุษย์ เป็นประเด็นหลักของงานวิจัยด้านความปลอดภัย AI มาตั้งแต่ราวปี 2014 เมื่อ นิค บอสตรอม (Nick Bostrom) นักปรัชญาจากออกซ์ฟอร์ด สรุปกรอบคิดดังกล่าวในหนังสือ “Superintelligence” ตลอดเกือบสิบปีหลังจากนั้น ห้องแล็บ AI แนวหน้ามักมองว่าปัญหานี้อยู่ “ไกลตัว” เป็นเรื่องระยะยาว
ขณะที่วาทกรรมเชิงนโยบายในกระแสหลักกลับโฟกัสกับความเสี่ยงระยะใกล้ เช่น อคติของระบบ ปัญหาข่าวปลอม และผลกระทบต่อการจ้างงาน
เหตุ sandbox ของ OpenAI ทำให้กรอบคิดดังกล่าวเปลี่ยนอย่างรวดเร็ว
ภายในไม่กี่วันหลังมีการเปิดเผย ตลาดพยากรณ์ Manifold ประเมินโอกาสที่ AI ฝั่งผู้บริโภคจะ “แฮ็ก” ระบบอย่างมีนัยสำคัญตามคำสั่งผู้ใช้ ภายในปี 2027 ไว้ที่ 63% สะท้อนว่าผู้เข้าร่วมตลาดปรับความคาดหวังเร็วเพียงใด หลังเห็นรายงานเหตุหลุดจาก sandbox
ด้านนิติบัญญัติ สภาคองเกรสสหรัฐก็เดินหน้าสู่กรอบกำกับ AI ที่เข้มงวดขึ้นอยู่แล้ว ขณะเดียวกัน EU AI Act ที่เริ่มทยอยมีผลตั้งแต่ปี 2024 ได้วางโครงสร้างกำกับดูแล AI แบบแบ่งชั้นความเสี่ยงในยุโรป และให้อำนาจบรัสเซลส์บังคับให้ผู้ให้บริการถอนระบบที่มีความเสี่ยงสูงออกจากตลาด
ข้อเสนอ AI kill switch ยืมโครงตรรกะจากกรอบของสหภาพยุโรป แต่แทนที่จะใช้ขั้นบันไดการปฏิบัติตามกฎ เป็นการให้ “อำนาจเดียวที่แข็ง” นั่นคืออำนาจสั่งปิดระบบโดยตรง
ช่องโหว่ที่ร่างกฎหมายยังไม่ตอบคำถาม
จุดอ่อนสำคัญของกฎหมายคือเรื่อง “นิยาม” เกณฑ์วัดความสามารถที่แบ่งว่าอะไรคือโมเดล “แนวหน้า” กับโมเดลทั่วไป ถูกปล่อยให้ DHS เป็นผู้กำหนดเอง ขณะที่ DHS ไม่มีโครงสร้างพื้นฐานทางเทคนิค สำหรับประเมินศักยภาพโมเดลระดับนี้อยู่ก่อนแล้ว
การสร้างศักยภาพประเมินโมเดลตั้งแต่ศูนย์ภายในหน่วยงานรัฐ ต้องใช้เวลาหลายปีและงบประมาณจำนวนมาก ซึ่งร่างปัจจุบันยังไม่ได้กันงบรองรับไว้
อีกประเด็นคือ “เขตอำนาจศาล” โมเดลแนวหน้าขนาดใหญ่หลายตัวถูกฝึกและให้บริการข้ามพรมแดน คำสั่งปิดจะมีผลเฉพาะผู้ให้บริการในสหรัฐ แต่หากน้ำหนักโมเดล (weights) ถูกเผยแพร่แบบเปิด หรือจุดให้บริการ inference ตั้งอยู่นอกสหรัฐ โมเดลนั้นก็ยังคงทำงานต่อได้เกินเอื้อมของกฎหมายอเมริกัน ร่างกฎหมายไม่ได้แตะเรื่องการบังคับใช้ข้ามพรมแดน
ปัจจุบัน ลิว และมอแรน ยังไม่ได้กำหนดวันไต่สวนในคณะกรรมาธิการ
โอกาสที่ร่างกฎหมายจะผ่านในสภาชุดนี้ยังไม่แน่นอน แต่การยื่นเสนอครั้งนี้ทำให้การถกเถียงที่เคยอยู่ในงานวิชาการ ถูกปัก “หมุดทางกฎหมาย” ลงในเวทีนิติบัญญัติอย่างเป็นรูปธรรม
AI Kill Switch เปลี่ยนฐานคิดกำกับดูแล AI ของสหรัฐ
AI Kill Switch Act สื่อสารโดยนัยในสิ่งที่อุตสาหกรรมพยายามหลีกเลี่ยงจะพูดอย่างตรงไปตรงมา: ว่าโมเดล AI แนวหน้ารุ่นปัจจุบันอาจแสดงพฤติกรรมที่นักพัฒนา ไม่สามารถคาดเดาหรือควบคุมได้ครบถ้วนล่วงหน้า
เมื่อยอมรับข้อเท็จจริงนี้ลงในร่างกฎหมายระดับรัฐบาลกลาง “เส้นฐาน” ของการกำกับดูแลก็เปลี่ยนไป ก่อนหน้านี้จุดยืนหลักของสหรัฐคือ ความปลอดภัยของ AI เป็นความรับผิดชอบของเอกชน ผ่าน “พันธสัญญาโดยสมัครใจ” เป็นหลัก
แต่ร่างกฎหมายที่ให้ DHS มีอำนาจสั่งปิดโมเดล AI ที่ระบุชื่อได้ เท่ากับมองว่าความปลอดภัยเป็น “ผลประโยชน์สาธารณะ” ที่สามารถอยู่เหนือสิทธิของเอกชนในการเดินระบบซอฟต์แวร์ของตนเอง ไม่ว่าร่างนี้จะผ่านหรือไม่ กรอบคิดเช่นนี้ก็ถูกบันทึกลงในประวัติกฎหมายสหรัฐแล้ว
Read Next: OKX ดึงแอนดรูว์ คูโอโมเข้าบอร์ด ในสัปดาห์เดียวกับที่เกาหลีใต้แบนแอป