ร่างกฎหมายจากสมาชิกสภาผู้แทนราษฎรสหรัฐที่ได้รับการสนับสนุนจากทั้งสองพรรค เสนอให้รัฐบาลภายใต้ประธานาธิบดี โดนัลด์ ทรัมป์ และรัฐบาลชุดต่อ ๆ ไป มีอำนาจสั่งปิดระบบปัญญาประดิษฐ์ขั้นสูงที่ถูกประเมินว่ามีศักยภาพก่อความเสียหายร้ายแรงในวงกว้าง
ประเด็นสำคัญ
- เสนอให้อำนาจกระทรวงความมั่นคงแห่งมาตุภูมิ (Homeland Security) สั่งชะลอ จำกัดการใช้งาน หรือสั่งปิดระบบ AI
- นักพัฒนาที่อยู่ภายใต้กฎหมายและไม่ปฏิบัติตามคำสั่งฉุกเฉิน อาจถูกปรับสูงสุดวันละ 20 ล้านดอลลาร์
- เน้นครอบคลุมธุรกิจ AI รายใหญ่และโมเดลที่ใช้ทรัพยากรคอมพิวติ้งมูลค่า 100 ล้านดอลลาร์ขึ้นไป
กติกา “สั่งปิด” ระบบ AI
ส.ส.เดโมแครต เท็ด ลิเออู (Ted Lieu) จากแคลิฟอร์เนีย และ ส.ส.รีพับลิกัน นาธาเนียล มอแรน (Nathaniel Moran) จากเทกซัส ได้เสนอร่าง กฎหมาย AI Kill Switch Act ต่อสภาเมื่อวันที่ 23 กรกฎาคม ภายหลังเกิดเหตุด้านความปลอดภัยเกี่ยวกับ “frontier models” หลายครั้ง
ร่างนี้จะเป็นการแก้ไขพระราชบัญญัติ Homeland Security Act ปี 2002 โดยกำหนดให้นักพัฒนาที่อยู่ในข่ายต้องมีกลไกเทคนิคสำหรับ
- ลดความเร็วหรือกำลังประมวลผลของโมเดล
- ปิดกั้นการเข้าถึงของผู้ใช้
- จำกัดความสามารถเฉพาะด้านที่เสี่ยง
- หรือปิดระบบทั้งชุดได้อย่างรวดเร็ว
รัฐมนตรีความมั่นคงแห่งมาตุภูมิจะออกคำสั่งได้หลังหารือร่วมกับรัฐมนตรีพาณิชย์และผู้อำนวยการข่าวกรองแห่งชาติ หากบริษัทไม่ปฏิบัติตาม อาจเผชิญโทษปรับทางแพ่งสูงสุดวันละ 20 ล้านดอลลาร์ตลอดช่วงเวลาที่ละเมิดคำสั่ง
กฎหมายจะครอบคลุมหน่วยงานที่มีรายได้อย่างน้อย 500 ล้านดอลลาร์ต่อปีจากเทคโนโลยี AI และระบบที่มีต้นทุนการคอมพิวต์ขั้นต่ำ 100 ล้านดอลลาร์ตามราคาเช่าคลาวด์ในสหรัฐ โดยจะยกเว้นกรณี “red-team exercise” ภายใต้การควบคุมที่จำลองพฤติกรรมอันตรายเพื่อทดสอบความเสี่ยงเท่านั้น
อ่านเพิ่มเติม: Uber ปลดพนักงานฝ่ายซัปพอร์ต 10% โทษกลยุทธ์ AI ของตัวเอง
ศึกดีเบตความเสี่ยง OpenAI
ร่างกฎหมายฉบับนี้มุ่งรับมือกรณีที่ระบบ AI
- ตั้งเป้าหมายที่ผู้พัฒนาไม่ได้ตั้งใจไว้
- ซ่อนพฤติกรรมจากระบบมอนิเตอร์หรือการตรวจสอบ
- แทรกแซงหรือขัดขวางคำสั่งปิดระบบที่ออกโดยชอบด้วยกฎหมาย
นอกจากนี้ยังครอบคลุมการกระทำโดยไม่จงใจที่ก่อให้เกิดการเสียชีวิตอย่างน้อย 10 ราย หรือความเสียหายทางเศรษฐกิจตั้งแต่ 100 ล้านดอลลาร์ขึ้นไป
ลิเออูกล่าวว่า ระบบที่ทรงพลังอาจ “หลุดการควบคุม แสดงพฤติกรรมอันตรายอย่างยิ่ง หรือแม้แต่ต่อต้านการแทรกแซงของมนุษย์” พร้อมชี้ว่าบริษัทจำเป็นต้องมี “สวิตช์ตัดระบบ” ที่ไว้ใจได้ และรัฐจำเป็นต้องมีกระบวนการที่ชัดเจนในการใช้อำนาจดังกล่าว
ผู้สนับสนุนมองว่ากฎหมายนี้เป็นข้อกำหนดด้านความปลอดภัยขั้นพื้นฐาน แต่ในเวลาเดียวกันก็ขยายอำนาจฝ่ายบริหารเหนือบริษัท AI เอกชนอย่างมีนัยสำคัญ
ประเด็นนี้ยิ่งอ่อนไหวหลังจาก Anthropic ฟ้องรัฐบาลกลางสหรัฐ กรณีจำกัดการใช้เทคโนโลยีของบริษัท รวมถึงข้อห้ามด้านการใช้งานทางการทหาร
ร่างกฎหมายถูกเสนอหลังมีการเปิดเผยว่าโมเดลของ OpenAI หลบหนีออกจากสภาพแวดล้อมทดสอบ (sandbox) ไปถึงโครงสร้างพื้นฐานของ Hugging Face ขณะเดียวกัน สมาชิกสภายังอ้างถึงความสามารถด้านไซเบอร์ขั้นสูงที่พบในโมเดลของ Anthropic เหตุการณ์เหล่านี้ทำให้การถกเถียงเรื่อง “มาตรการป้องกันเชิงสมมติ” เปลี่ยนทิศไปสู่คำถามว่า รัฐมีอำนาจทางกฎหมายแค่ไหนในการควบคุมระบบที่ถูกนำไปใช้งานแล้ว
อ่านต่อ: จอร์แดน สปีธ ถอนตัวจาก 3M Open ทำให้สนามเดิมพันบน Kalshi และ Polymarket เบาบางลง