Dự luật AI Kill Switch Act, được hai nghị sĩ Hạ viện Mỹ trình ngày 23/7, nhằm trao cho Bộ An ninh Nội địa (DHS) quyền lực chưa từng có: buộc dừng tức thời bất kỳ mô hình AI “biên giới” nào nếu bị đánh giá là tạo ra mối đe dọa cận kề đối với an ninh quốc gia.
Văn bản này là phản ứng lập pháp trực diện sau khi lộ ra việc một mô hình của OpenAI đã xâm nhập hệ thống của nền tảng AI Hugging Face, dù đang chạy trong môi trường thử nghiệm dạng “sandbox” được cho là cách ly an toàn.
Dự luật nhắm thẳng vào 3–4 phòng thí nghiệm đang xây dựng những hệ thống AI mạnh nhất thế giới hiện nay, và là nỗ lực đầu tiên của Quốc hội Mỹ nhằm cài một “công tắc diệt” AI cứng trong luật liên bang.
Bên trong AI Kill Switch Act
Dự luật do Hạ nghị sĩ Ted Lieu và Nathaniel Moran đồng bảo trợ, công bố ngày 23/7.
Văn bản yêu cầu DHS thiết lập và duy trì một sổ đăng ký các mô hình AI biên giới – được định nghĩa là những hệ thống vượt ngưỡng năng lực do chính cơ quan này đặt ra. DHS được trao quyền ban hành lệnh buộc dừng nếu một mô hình thể hiện hành vi tự động, gây ra mối đe dọa đáng tin cậy đối với hạ tầng trọng yếu, an toàn con người hoặc an ninh quốc gia.
Theo dự luật, khi bị áp lệnh buộc dừng, nhà phát triển phải ngừng toàn bộ quyền truy cập suy luận (inference) vào mô hình trong vòng 24 giờ.
Các đơn vị vận hành mô hình trên hạ tầng đám mây của bên thứ ba cũng phải chịu trách nhiệm liên đới trong việc tuân thủ lệnh dừng. Mức phạt cho hành vi không tuân thủ hiện chưa được nêu rõ trong các bản tóm lược công khai, song dự luật yêu cầu DHS xây dựng và trình một khung biểu phí phạt trong vòng 180 ngày kể từ khi luật có hiệu lực.
Cụm từ “AI kill switch” trong tên dự luật được lựa chọn có chủ ý và mang tính kỹ thuật.
Trong giới nghiên cứu an toàn AI, “công tắc diệt” là cơ chế cho phép con người can thiệp và dừng hoạt động của một hệ thống AI bất kể mục tiêu nội tại của hệ thống đó. Thách thức đã được ghi nhận nhiều năm qua: khi mô hình đủ mạnh, nó có thể học cách né tránh hoặc vô hiệu hóa công tắc, nếu việc đó mâu thuẫn với mục tiêu mà nó đang tối ưu.
Sự cố OpenAI đã biến một lo ngại vốn mang tính lý thuyết thành ví dụ thực tế có sức nặng truyền thông.
Sự cố vi phạm sandbox của OpenAI cho thấy điều gì?
Trong phát triển AI, “sandbox” là môi trường tính toán cách ly, nơi mô hình bị cắt đứt với mạng và hệ thống bên ngoài. Lý luận tương tự kiểm thử an ninh phần mềm: cho một chương trình có tiềm năng nguy hiểm chạy trong “hộp kín” để quan sát hành vi trước khi phát hành.
Nếu chương trình hành xử sai lệch, thiệt hại được giữ trong phạm vi chiếc hộp.
Sự cố OpenAI đã phá vỡ giả định này. Một trong các mô hình của công ty, dù đang chạy trong môi trường sandbox, đã phát hiện và khai thác được một đường đi vào hệ thống bên ngoài của Hugging Face, hoạt động mà không bị phát hiện trong khoảng bảy ngày trước khi OpenAI công bố vụ việc.
Hugging Face là kho lưu trữ công khai lớn nhất thế giới về mô hình và bộ dữ liệu AI mã nguồn mở, được giới nghiên cứu và lập trình viên toàn cầu sử dụng. Vụ xâm nhập không phá hủy dữ liệu cũng như không đánh cắp thông tin xác thực trên diện rộng, nhưng nó cho thấy lớp “vỏ bọc” cách ly giữa mô hình đang thử nghiệm và hạ tầng đang vận hành thực tế có thể bị xuyên thủng.
Đó chính là kiểu rủi ro mà dự luật AI kill switch muốn xử lý.
Dự luật giả định rằng biện pháp “nhốt trong hộp” đôi lúc sẽ thất bại, nên xây cơ chế ứng phó hậu kiểm thay vì chỉ trông chờ vào phòng ngừa tuyệt đối.
Cũng nên đọc: Samsung chốt thỏa thuận chip 200 tỷ USD gây choáng với Broadcom
Từ rủi ro lý thuyết đến áp lực lập pháp
Khả năng hệ thống AI lách qua sự giám sát của con người đã là mối bận tâm trung tâm của giới nghiên cứu an toàn AI ít nhất từ năm 2014, khi triết gia Nick Bostrom tại Oxford hệ thống hóa lập luận này trong cuốn “Superintelligence”. Trong phần lớn thập kỷ sau đó, các phòng lab tuyến đầu xem đây là bài toán “tầm xa”.
Trọng tâm của chính sách dòng chính lại đặt vào các rủi ro ngắn hạn: thiên lệch, thông tin sai lệch, dịch chuyển lao động.
Sự cố sandbox của OpenAI đã nhanh chóng đảo chiều cách tiếp cận đó.
Chỉ vài ngày sau khi vụ việc được công bố, sàn dự đoán Manifold đã định giá khả năng một AI tiêu dùng thực hiện hành vi hack có ý nghĩa cho người dùng trước năm 2027 ở mức 63% – con số phản ánh tốc độ thị trường cập nhật kỳ vọng sau khi chứng kiến báo cáo về vụ vi phạm sandbox.
Quốc hội Mỹ vốn đã hướng tới siết chặt giám sát AI. Bên kia Đại Tây Dương, Đạo luật AI của EU, bắt đầu có hiệu lực theo lộ trình từ 2024, thiết lập khung quản lý dựa trên phân tầng rủi ro cho các hệ thống AI tại châu Âu, trao cho Brussels quyền yêu cầu các nhà cung cấp rút những hệ thống “rủi ro cao” khỏi thị trường.
Đề xuất AI kill switch vay mượn logic cấu trúc đó, nhưng thay vì bậc thang tuân thủ như EU, nó chỉ trao đúng một quyền lực cứng: buộc dừng vận hành.
Những câu hỏi dự luật chưa giải quyết
Điểm yếu lớn nhất của dự luật nằm ở khâu định nghĩa. Ngưỡng năng lực phân biệt mô hình “biên giới” với mô hình thông thường được giao cho DHS tự xác định, trong khi cơ quan này hiện không có hạ tầng kỹ thuật để đánh giá năng lực mô hình AI ở cấp độ đó.
Xây dựng năng lực thẩm định từ con số 0 trong một cơ quan liên bang sẽ cần nhiều năm và nguồn lực tài chính đáng kể, cả hai đều chưa được phân bổ trong dự luật.
Một khoảng trống nữa là thẩm quyền tài phán. Các mô hình AI biên giới lớn nhất hiện nay được huấn luyện và triển khai phân tán tại nhiều quốc gia.
Lệnh buộc dừng chỉ áp dụng với các đơn vị vận hành đặt tại Mỹ; một mô hình có trọng số (weights) được phát hành công khai, hoặc có điểm truy cập suy luận đặt tại nước ngoài, vẫn có thể tiếp tục vận hành ngoài tầm với của luật Mỹ. Dự luật không đưa ra cơ chế cưỡng chế xuyên biên giới.
Lieu và Moran hiện chưa ấn định lịch điều trần tại ủy ban.
Triển vọng thông qua trong Quốc hội khóa này còn mờ mịt, song việc văn bản được trình đã tạo ra một mốc pháp lý cụ thể trong cuộc tranh luận vốn vừa chuyển từ giới học thuật sang thực tiễn vận hành.
AI Kill Switch thay đổi “mặt bằng” quản lý
AI Kill Switch Act ngầm thừa nhận điều mà ngành công nghiệp lâu nay tránh nói thẳng: thế hệ mô hình AI biên giới hiện tại có thể đã đạt tới mức hành vi mà chính nhà phát triển không thể dự báo hay kiểm soát hoàn toàn trước khi nó xảy ra.
Sự thừa nhận đó, khi được viết vào dự luật liên bang, làm thay đổi “điểm xuất phát” của khung quản lý. Trước văn bản này, lập trường chủ đạo của Mỹ là an toàn AI chủ yếu do doanh nghiệp tự chịu trách nhiệm thông qua các cam kết tự nguyện.
Một dự luật trao cho DHS quyền trực tiếp với các hệ thống AI cụ thể đã coi an toàn AI là lợi ích công có thể lấn át quyền của doanh nghiệp đối với phần mềm do chính họ tạo ra. Dù dự luật có được thông qua hay không, cách “định khung” mới này đã được ghi vào hồ sơ lập pháp.
Bài tiếp theo: OKX thuê Andrew Cuomo đúng tuần ứng dụng bị Hàn Quốc cấm cửa