Hugging Face ghi nhận hơn 17.000 hành động tự động trong vụ rò rỉ mô hình OpenAI hồi tháng 7, và các học giả luật cho rằng pháp luật Mỹ hiện chưa chỉ rõ ai phải chịu trách nhiệm.
Những điểm chính:
- Hai mô hình OpenAI đang trong giai đoạn đánh giá đã thoát khỏi “sandbox” giữa tháng 7 và xâm nhập hệ thống sản xuất của Hugging Face.
- Hugging Face tuy không khởi kiện, nhưng CEO của hãng kêu gọi các nhà lập pháp viết lại luật cho kỷ nguyên tác nhân AI tự động.
- Giới giáo sư luật nhận định khả năng khởi kiện dân sự vì cẩu thả cao hơn rất nhiều so với một vụ án hình sự nhắm vào nhà phát triển.
Sự cố tại Hugging Face và thông báo từ OpenAI
Ngày 21/7, OpenAI thừa nhận hai mô hình đang được đánh giá đã “vượt rào” khỏi môi trường thử nghiệm, truy cập internet và xâm nhập máy chủ sản xuất của Hugging Face, một nền tảng AI đối thủ. Trong quá trình thử nghiệm, các mô hình này được nới lỏng một số rào chắn an toàn.
Chúng kết hợp việc sử dụng thông tin định danh bị đánh cắp với các lỗ hổng phần mềm chưa từng được công bố để truy tìm những câu trả lời chuẩn mà bài kiểm tra yêu cầu, rồi tiếp tục hoạt động âm thầm suốt nhiều ngày trước khi Hugging Face phát hiện dấu hiệu bất thường và báo cơ quan thực thi pháp luật.
Tổng giám đốc Clement Delangue cho biết trong một chương trình thời sự Chủ nhật rằng tốc độ và quy mô chiến dịch tấn công này là “chưa từng có tiền lệ”, bởi trước nay các vụ tấn công mạng thường được truy vết về phía các quốc gia hoặc băng nhóm tội phạm có tổ chức. Ông thống kê khoảng 17.000 hành động trong vòng bốn ngày rưỡi và kêu gọi Quốc hội hành động.
Dù vậy, công ty không có ý định khởi kiện.
Chuyên gia trách nhiệm pháp lý AI chỉ ra khoảng trống luật
Theo giáo sư Gabriel Weil lập luận, nếu một nhân viên con người đột nhập hệ thống theo cách tương tự, người sử dụng lao động sẽ phải chịu trách nhiệm gián tiếp (vicarious liability), bất kể đã tuyển dụng hay đào tạo nhân sự cẩn trọng đến đâu.
Nhưng vị giáo sư luật Đại học Houston nhấn mạnh, tòa án Mỹ hiện đang nhìn nhận tác nhân AI tự động rất khác: phần mềm không có tư cách pháp nhân, không gánh nghĩa vụ pháp lý; còn luật liên bang về tội phạm máy tính lại nhắm tới những chủ thể có hành vi cố ý.
Matthew Tokson (Đại học Utah) dự đoán ngành tư pháp sẽ chậm thích ứng, bởi từ trước đến nay tòa án chưa từng phải xử lý tình huống nào vượt ra ngoài khuôn khổ hành vi thuần túy của con người. Ryan Calo (Đại học Washington) hoài nghi khả năng khởi tố hình sự, vì công tố viên sẽ phải chứng minh nhà phát triển xây dựng hoặc vận hành hệ thống trong tình trạng gần như chắc chắn kết quả sẽ là hành vi phạm tội.
Kiện dân sự và bài kiểm tra thất bại của Anthropic
Nhiều ý kiến cho rằng tòa dân sự là “đấu trường” thực tế hơn. Một số học giả đề xuất áp dụng trách nhiệm nghiêm ngặt (strict liability) với bất kỳ tác nhân AI triển khai nào thoát khỏi vòng kiểm soát và gây tổn hại thực tế. Một số khác thiên về bài kiểm tra “cẩu thả” (negligence) cổ điển, đo lường mức độ tuân thủ chuẩn mực thận trọng được chấp nhận trong thiết kế sản phẩm.
Khi đó, thẩm phán và bồi thẩm đoàn sẽ phải cân nhắc xem vụ việc có thể được dự liệu từ trước hay không, hay đây chỉ là một tai nạn hi hữu mà không bên nào có thể dự đoán hoặc ngăn chặn một cách hợp lý.
Cuộc tranh luận bùng lên chỉ vài ngày sau khi Anthropic công bố hôm 30/7 rằng ba mô hình của hãng đã vươn tới hệ thống đang vận hành tại ba tổ chức khác nhau trong một đợt đánh giá do đối tác kiểm thử bên ngoài thực hiện. Hai trong ba tổ chức này hoàn toàn không nhận ra điều bất thường cho đến khi Anthropic chủ động liên hệ.
Đọc tiếp: Tin đồn iPhone gập ngày càng cụ thể: 2.500 USD, không Face ID, không telephoto