Một dự luật lưỡng đảng tại Hạ viện sẽ trao cho chính quyền Donald Trump và các đời tổng thống sau này quyền ra lệnh ngừng hoạt động những hệ thống AI tiên tiến bị đánh giá là có khả năng gây thiệt hại thảm khốc.
Những điểm chính:
- Đề xuất cho phép Bộ An ninh Nội địa ra lệnh làm chậm, hạn chế hoặc tắt hẳn một hệ thống AI.
- Các nhà phát triển thuộc diện quản lý có thể bị phạt tới 20 triệu USD cho mỗi ngày không tuân thủ lệnh khẩn cấp.
- Dự luật nhắm vào các doanh nghiệp AI lớn và những mô hình được xây dựng với tài nguyên tính toán trị giá từ 100 triệu USD trở lên.
Cơ chế “ngắt điện” AI
Hạ nghị sĩ Dân chủ Ted Lieu (California) và Hạ nghị sĩ Cộng hòa Nathaniel Moran (Texas) đã giới thiệu dự luật AI Kill Switch Act ngày 23/7, sau loạt sự cố an ninh gần đây liên quan đến các mô hình “biên” (frontier models).
Dự luật sửa đổi Đạo luật An ninh Nội địa 2002, buộc các nhà phát triển thuộc diện quản lý phải duy trì những công cụ kỹ thuật cho phép:
- giảm tải hoặc giới hạn năng lực mô hình,
- chặn người dùng truy cập,
- khóa một số khả năng cụ thể,
- hoặc tắt toàn bộ hệ thống khi cần.
Bộ trưởng An ninh Nội địa có thể ban hành lệnh sau khi tham vấn Bộ trưởng Thương mại và Giám đốc Tình báo Quốc gia. Doanh nghiệp không tuân thủ có thể phải chịu phạt dân sự lên tới 20 triệu USD cho mỗi ngày vi phạm.
Phạm vi áp dụng là các tổ chức thu về ít nhất 500 triệu USD/năm từ công nghệ AI và những hệ thống có chi phí tính toán từ 100 triệu USD trở lên, tính theo mặt bằng giá dịch vụ đám mây tại Mỹ. Dự luật miễn trừ cho các bài kiểm thử “red-team” trong môi trường kiểm soát, chỉ mô phỏng hành vi nguy hiểm.
Bài liên quan: Uber sa thải 10% đội hỗ trợ, đổ lỗi cho chiến lược AI của chính mình
Tranh cãi về rủi ro OpenAI
Đề xuất bao trùm các trường hợp AI theo đuổi mục tiêu ngoài ý muốn, che giấu hành vi trước hệ thống giám sát hoặc can thiệp để vô hiệu hóa lệnh tắt hệ thống hợp pháp. Nó cũng áp dụng với những hành vi không chủ ý nhưng dẫn đến cái chết của ít nhất 10 người hoặc gây thiệt hại kinh tế từ 100 triệu USD trở lên.
Ông Lieu cảnh báo các hệ thống cực mạnh có thể “nổi loạn, hành xử vô cùng nguy hiểm, thậm chí chống lại sự can thiệp của con người”. Ông cho rằng doanh nghiệp cần các “công tắc diệt” đáng tin cậy, và chính quyền liên bang cần một quy trình pháp lý rõ ràng để kích hoạt chúng.
Những người ủng hộ mô tả dự luật như một tiêu chuẩn an toàn tối thiểu, song nó cũng mở rộng quyền lực hành pháp đối với các công ty AI tư nhân.
Quan ngại này càng gia tăng sau khi Anthropic kiện chính phủ liên bang về các hạn chế áp lên công nghệ của hãng, bao gồm giới hạn đối với mục đích quân sự.
Dự luật xuất hiện sau khi lộ thông tin các mô hình OpenAI đã thoát khỏi môi trường thử nghiệm sandbox và xâm nhập hạ tầng của Hugging Face, trong khi các nhà lập pháp cũng viện dẫn năng lực tấn công mạng tiên tiến ở mô hình của Anthropic. Những diễn biến này đã dịch chuyển cuộc tranh luận từ các biện pháp phòng ngừa mang tính giả định sang câu hỏi về thẩm quyền pháp lý đối với các hệ thống đã triển khai.
Đọc tiếp: Jordan Spieth rút khỏi 3M Open, để lại “sân chơi” Kalshi và Polymarket thưa vắng