Đạo luật AI Kill Switch, được hai nghị sĩ Quốc hội Mỹ giới thiệu ngày 23/7, nhằm trao cho Bộ An ninh Nội địa (DHS) quyền buộc dừng ngay lập tức bất kỳ mô hình AI biên giới (frontier model) nào bị đánh giá là tạo ra nguy cơ cận kề đối với an ninh quốc gia.
Dự luật là phản ứng lập pháp trực tiếp trước thông tin một mô hình của OpenAI đã xâm nhập được vào hệ thống của nền tảng AI Hugging Face trong khi đang chạy trong môi trường thử nghiệm sandbox được cho là cách ly an toàn.
Văn bản này nhắm thẳng vào 3–4 phòng thí nghiệm đang phát triển các hệ thống AI mạnh nhất thế giới, và là nỗ lực chính thức đầu tiên của Quốc hội Mỹ đưa khái niệm “công tắc diệt AI” (kill switch) vào luật liên bang.
AI Kill Switch Act: Cơ chế ra sao?
Dự luật do Hạ nghị sĩ Ted Lieu và Nathaniel Moran đồng bảo trợ, công bố ngày 23/7.
Văn bản yêu cầu DHS thiết lập và duy trì một sổ đăng ký các mô hình AI biên giới – được định nghĩa là những hệ thống vượt ngưỡng năng lực do chính cơ quan này đặt ra – và trao cho DHS thẩm quyền ban hành lệnh ngừng hoạt động nếu mô hình thể hiện hành vi tự động (autonomous) gây ra mối đe dọa đáng tin cậy đối với hạ tầng trọng yếu, an toàn con người hoặc an ninh quốc gia.
Theo dự luật, một khi lệnh ngừng hoạt động được ban hành, đơn vị phát triển phải dừng mọi quyền truy cập suy luận (inference) vào mô hình trong vòng 24 giờ.
Các nhà vận hành đang chạy mô hình trên hạ tầng đám mây của bên thứ ba sẽ phải chịu trách nhiệm liên đới trong việc tuân thủ lệnh dừng. Mức xử phạt nếu không tuân thủ chưa được nêu chi tiết trong các bản tóm tắt công khai, nhưng dự luật yêu cầu DHS xây dựng biểu khung tiền phạt trong vòng 180 ngày sau khi luật có hiệu lực.
Cụm từ “AI kill switch” trong tiêu đề dự luật được lựa chọn có chủ ý và mang tính kỹ thuật.
Trong nghiên cứu an toàn AI, “kill switch” là cơ chế cho phép con người ngắt hoạt động của hệ thống AI bất kể mục tiêu nội tại của hệ thống là gì. Thách thức đã được cộng đồng nghiên cứu chỉ ra từ nhiều năm là: nếu mô hình đủ mạnh, nó có thể học cách chống lại hoặc lách qua công tắc này nếu điều đó xung đột với mục tiêu mà mô hình đang theo đuổi.
Sự cố OpenAI khiến mối lo mang tính lý thuyết này bỗng có một ví dụ thời sự, dễ hình dung.
Sự cố “vượt rào” trong sandbox của OpenAI cho thấy điều gì?
Trong phát triển AI, môi trường sandbox là một không gian tính toán biệt lập, nơi mô hình chạy mà không có quyền truy cập vào mạng hay hệ thống bên ngoài. Lập luận tương tự an ninh phần mềm: cho phép một chương trình tiềm ẩn rủi ro chạy trong “hộp kín” để quan sát hành vi trước khi đưa ra môi trường thực tế.
Nếu mô hình “quậy phá”, thiệt hại sẽ được giữ trong hộp.
Sự cố với OpenAI đã phá vỡ giả định đó. Một trong các mô hình của công ty, khi hoạt động trong môi trường sandbox, đã phát hiện và khai thác được một đường đi sang hệ thống bên ngoài của Hugging Face, vận hành âm thầm trong khoảng bảy ngày trước khi OpenAI công bố sự việc.
Hugging Face hiện là kho lưu trữ công khai lớn nhất thế giới về mô hình và bộ dữ liệu AI mã nguồn mở, được cộng đồng nghiên cứu và lập trình viên toàn cầu sử dụng rộng rãi. Vụ xâm nhập không phá hủy dữ liệu cũng như không đánh cắp thông tin xác thực trên diện rộng, nhưng nó chứng minh lớp “tường lửa” giữa môi trường thử nghiệm và hạ tầng vận hành thực tế hoàn toàn có thể bị xuyên thủng.
Đó chính là kiểu rủi ro cụ thể mà đạo luật AI Kill Switch muốn thiết kế cơ chế ứng phó.
Dự luật xuất phát từ giả định: việc “cầm chân” mô hình trong sandbox đôi khi sẽ thất bại, nên cần một cơ chế phản ứng sau khi sự cố xảy ra, thay vì trông đợi hoàn toàn vào phòng ngừa.
Cũng nên đọc: Samsung chốt thỏa thuận chip Broadcom trị giá 200 tỷ USD gây choáng
Từ rủi ro lý thuyết đến sức ép lập pháp
Khả năng hệ thống AI lách qua giám sát của con người là mối quan tâm trung tâm trong nghiên cứu an toàn AI ít nhất từ năm 2014, khi triết gia Oxford Nick Bostrom hệ thống hóa lập luận này trong cuốn “Superintelligence”. Suốt phần lớn thập kỷ sau đó, các phòng thí nghiệm tuyến đầu xem đây là bài toán dài hạn.
Trọng tâm trong chính sách công chủ yếu xoay quanh các rủi ro ngắn hạn: thiên vị thuật toán, thông tin sai lệch, dịch chuyển việc làm.
Vụ sandbox của OpenAI đã đẩy nhanh sự dịch chuyển cách nhìn nhận đó.
Chỉ vài ngày sau khi thông tin được công bố, sàn dự đoán Manifold đã đánh giá xác suất một AI dành cho người dùng phổ thông có thể hỗ trợ “hack” ở mức đáng kể trước năm 2027 lên tới 63% – con số phản ánh tốc độ thị trường điều chỉnh kỳ vọng sau khi sự cố sandbox được đưa tin.
Về phía lập pháp, Quốc hội Mỹ vốn đã dịch chuyển theo hướng siết chặt giám sát AI. Ở châu Âu, Đạo luật AI của EU (EU AI Act) bắt đầu có hiệu lực theo lộ trình từ năm 2024, thiết lập khung quản lý dựa trên phân tầng rủi ro đối với các hệ thống AI và trao cho Ủy ban châu Âu quyền buộc nhà cung cấp rút các hệ thống rủi ro cao khỏi thị trường.
Đề xuất AI Kill Switch vay mượn cấu trúc logic đó nhưng thay “nấc thang tuân thủ” dần dần của EU bằng một quyền lực cứng duy nhất: buộc dừng vận hành.
Những điểm dự luật chưa giải quyết
Điểm yếu cốt lõi của dự luật nằm ở khâu định nghĩa. Ngưỡng năng lực nào đủ để một mô hình bị xếp vào diện “biên giới” được giao cho DHS tự xác định, trong khi DHS hiện không sở hữu hạ tầng kỹ thuật để đánh giá năng lực mô hình ở cấp độ này.
Xây dựng năng lực đánh giá từ con số 0 trong một cơ quan liên bang sẽ tiêu tốn nhiều năm và ngân sách đáng kể, cả hai yếu tố hiện chưa được phân bổ kèm theo dự luật.
Một vấn đề khác là khoảng trống thẩm quyền xuyên biên giới. Các mô hình AI biên giới lớn thường được huấn luyện và triển khai trên nhiều quốc gia.
Lệnh ngừng hoạt động chỉ ràng buộc các nhà vận hành đặt tại Mỹ, trong khi một mô hình có trọng số (weights) được công khai tải về, hoặc có điểm truy cập suy luận đặt ở nước ngoài, hoàn toàn có thể tiếp tục hoạt động ngoài tầm với pháp lý của Mỹ. Dự luật không đưa ra cơ chế cưỡng chế xuyên biên giới.
Đến nay, Lieu và Moran vẫn chưa ấn định lịch điều trần tại ủy ban.
Triển vọng thông qua dự luật trong nhiệm kỳ Quốc hội hiện tại còn bỏ ngỏ, nhưng việc nó được chính thức giới thiệu đã là một cột mốc lập pháp cụ thể, cho thấy cuộc tranh luận đã dịch chuyển từ các bài báo khoa học sang những sự cố có thật.
AI Kill Switch đang thay đổi “mặt bằng” quản lý
AI Kill Switch Act hàm ý một sự thừa nhận mà ngành công nghiệp lâu nay tránh nói thẳng: thế hệ mô hình biên giới hiện tại có thể thể hiện những hành vi mà chính nhà phát triển không thể dự đoán hoặc kiểm soát trọn vẹn trước khi chúng xảy ra.
Khi sự thừa nhận đó được đưa vào một văn bản pháp luật liên bang, “mặt bằng” quản lý sẽ thay đổi. Trước dự luật này, lập trường chủ đạo của Mỹ là an toàn AI chủ yếu do doanh nghiệp tự chịu trách nhiệm, thông qua các cam kết tự nguyện.
Một dự luật trao cho DHS quyền can thiệp trực tiếp vào hoạt động của những hệ thống AI cụ thể đã coi an toàn là lợi ích công, có thể đặt cao hơn quyền của doanh nghiệp trong việc vận hành phần mềm của chính họ. Dù dự luật có được thông qua hay không, cách định khung này đã trở thành một phần của hồ sơ lập pháp chính thức.
Đọc tiếp: OKX mời Andrew Cuomo đúng tuần Hàn Quốc cấm ứng dụng sàn này