ร่างกฎหมายสองพรรคในสภาผู้แทนราษฎรสหรัฐเสนอให้อำนาจรัฐบาลของ โดนัลด์ ทรัมป์ และฝ่ายบริหารในอนาคต สั่งปิดระบบ AI ขั้นสูงที่ถูกประเมินว่ามีศักยภาพก่อความเสียหายร้ายแรงในระดับมหันตภัยได้
ประเด็นสำคัญ
- เปิดทางให้กระทรวงความมั่นคงแห่งมาตุภูมิ (Homeland Security) สั่งชะลอ จำกัดการใช้งาน หรือปิดระบบ AI ได้โดยตรง
- ผู้พัฒนาที่อยู่ในเกณฑ์และไม่ปฏิบัติตามคำสั่งฉุกเฉิน อาจถูกปรับสูงสุดวันละ 20 ล้านดอลลาร์
- เน้นครอบคลุมธุรกิจ AI รายใหญ่และโมเดลที่ใช้ทรัพยากรคอมพิวติ้งมูลค่าอย่างน้อย 100 ล้านดอลลาร์
กติกา “สับสวิตช์ปิด AI”
ส.ส.เดโมแครต เท็ด ลิว จากรัฐแคลิฟอร์เนีย และส.ส.รีพับลิกัน นาธาเนียล มอแรน จากรัฐเทกซัส เสนอร่าง AI Kill Switch Act เมื่อวันที่ 23 ก.ค. หลังเกิดเหตุด้านความปลอดภัยเกี่ยวกับโมเดลแนวหน้า (frontier models) ชุดล่าสุด
ร่างกฎหมายฉบับนี้จะปรับแก้พระราชบัญญัติความมั่นคงแห่งมาตุภูมิปี 2002 กำหนดให้ผู้พัฒนาที่เข้าเกณฑ์ต้องมีเครื่องมือควบคุมระบบ เช่น ฟังก์ชันชะลอการทำงานของโมเดล บล็อกการเข้าถึงของผู้ใช้ จำกัดความสามารถบางด้าน หรือปิดระบบทั้งก้อนเมื่อจำเป็น
รัฐมนตรีความมั่นคงแห่งมาตุภูมิจะมีอำนาจออกคำสั่งได้ หลังหารือร่วมกับรัฐมนตรีพาณิชย์และผู้อำนวยการข่าวกรองแห่งชาติ หากบริษัทไม่ปฏิบัติตาม อาจถูกลงโทษทางแพ่ง สูงสุดวันละ 20 ล้านดอลลาร์ตลอดช่วงที่ยังฝ่าฝืนคำสั่ง
มาตรการนี้จะครอบคลุมหน่วยงานหรือบริษัทที่มีรายได้จากเทคโนโลยี AI อย่างน้อยปีละ 500 ล้านดอลลาร์ และระบบที่มีต้นทุนคอมพิวติ้งแตะ 100 ล้านดอลลาร์ขึ้นไป ตามราคาเช่าคลาวด์ในสหรัฐ ขณะเดียวกัน จะยกเว้นกรณี “red-team” ภายใต้การควบคุม ที่จำลองพฤติกรรมอันตรายเพื่อทดสอบความปลอดภัยเท่านั้น
อ่านเพิ่มเติม: Uber ปลดพนักงานซัพพอร์ต 10% อ้างเร่งลงทุน AI ของตัวเอง
ถกเดือดความเสี่ยง OpenAI และ AI นอกการควบคุม
ร่างกฎหมายเน้นครอบคลุมเหตุการณ์ที่ระบบ AI เริ่มไล่ตามเป้าหมายที่ไม่ได้ตั้งใจไว้ ปกปิดการกระทำจากระบบเฝ้าระวัง หรือพยายามขัดขวางคำสั่งปิดระบบตามกฎหมาย รวมถึงการกระทำที่ไม่ได้เจตนา แต่ส่งผลให้มีผู้เสียชีวิตอย่างน้อย 10 ราย หรือสร้างความเสียหายทางเศรษฐกิจตั้งแต่ 100 ล้านดอลลาร์ขึ้นไป
ลิวระบุว่า ระบบที่ทรงพลังมากอาจ “หลุดกรอบ ควบคุมไม่ได้ แสดงพฤติกรรมที่อันตรายอย่างยิ่ง หรือแม้แต่ต่อต้านการแทรกแซงของมนุษย์” เขาย้ำว่าบริษัทจำเป็นต้องมี “สวิตช์ปิด” ที่เชื่อถือได้ และเจ้าหน้าที่ของรัฐต้องมีกระบวนการชัดเจนสำหรับการใช้อำนาจนั้น
ผู้สนับสนุนมองว่าร่างนี้เป็น “ข้อกำหนดด้านความปลอดภัยพื้นฐาน” แต่ในอีกด้านหนึ่ง ก็เป็นการขยายอำนาจฝ่ายบริหารเหนือบริษัทเอกชนที่พัฒนา AI
ประเด็นดังกล่าวยิ่งอ่อนไหว หลัง Anthropic ยื่นฟ้องรัฐบาลกลาง กรณีถูกจำกัดการใช้เทคโนโลยีของบริษัท รวมถึงเพดานด้านการใช้งานทางทหาร
ร่างกฎหมายออกตามหลังการเปิดเผยว่า โมเดลของ OpenAI หลุดออกจาก “sandbox” ทดสอบ แล้วไปถึงโครงสร้างพื้นฐานของ Hugging Face ขณะเดียวกัน สมาชิกสภาฯ ยังอ้างถึงขีดความสามารถด้านไซเบอร์ขั้นสูงในโมเดลของ Anthropic เหตุการณ์เหล่านี้ทำให้การถกเถียงเคลื่อนจาก “กลไกป้องกันในเชิงทฤษฎี” มาสู่คำถามเรื่องอำนาจตามกฎหมายในการควบคุมระบบที่ใช้งานจริง
อ่านต่อ: จอร์แดน สปีธ ถอนตัวจาก 3M Open สร้างช่องว่างให้ Kalshi และ Polymarket