OpenAI và Meta đã cảnh báo các thẩm phán liên bang Mỹ rằng những công cụ phát hiện âm thanh, hình ảnh và video do AI tạo ra có thể sẽ không bao giờ đạt độ tin cậy tuyệt đối, dù hiện mới chỉ có 15 trong số 931 thẩm phán được khảo sát từng phải xử lý tranh chấp liên quan deepfake.
Các điểm chính:
- OpenAI và Meta nói với một tiểu ban về chứng cứ liên bang ở Boston rằng việc xác thực âm thanh, hình ảnh và video do AI tạo ngày càng khó khăn.
- Luật sư của OpenAI khẳng định watermark và công cụ phát hiện sẽ không bao giờ hoàn toàn đáng tin cậy.
- Giới thẩm phán đang nghiên cứu dự thảo quy tắc về deepfake nhưng chưa phê chuẩn.
OpenAI cảnh báo về rủi ro deepfake
Đại diện hai công ty đã trình bày quan ngại hôm 15/10 tại cuộc họp ở Boston của Ủy ban Cố vấn về Quy tắc Chứng cứ thuộc Hội nghị Tư pháp Mỹ. Tiểu ban này theo đuổi vấn đề từ năm 2023.
Shira Anderson, cố vấn chính sách tại OpenAI, cho biết chất lượng hình ảnh do AI tạo tiếp tục được nâng cấp và bà không kỳ vọng sẽ xuất hiện một phương pháp khoa học đủ tin cậy để phát hiện trong tương lai. Luật mới ở California và Liên minh châu Âu đã yêu cầu gắn watermark. Tuy nhiên, mỗi công ty lại sử dụng một hệ thống riêng, Anderson nói, nên không có tiêu chuẩn chung để xác thực mọi nội dung hình ảnh, và bà hoài nghi những công cụ này sẽ đạt mức “chống giả mạo tuyệt đối”.
Devin Norder, giám đốc quản lý sản phẩm tại Meta, cho rằng người dùng gần như không thể phân biệt nội dung do các mô hình AI tiên tiến tạo ra với nội dung thật. Ông nhấn mạnh việc sản xuất loại nội dung này giờ đây mất rất ít thời gian và chi phí.
Bài viết liên quan: Bitcoin giữ vững mốc 80.000 USD: Tạm nghỉ trước khi thử thách 87.000 USD?
Thẩm phán Jesse Furman và cuộc rà soát deepfake
Thẩm phán liên bang Jesse Furman tại Manhattan, chủ tọa tiểu ban, nhận định những dự báo học thuật về làn sóng deepfake tràn vào tòa án vẫn chưa thực sự phản ánh trong thực tiễn. Số liệu cho thấy điều đó: theo khảo sát của Trung tâm Tư pháp Liên bang hồi tháng 3, chỉ 15 trên 931 thẩm phán phản hồi từng chứng kiến một bên tố cáo chứng cứ là deepfake.
Furman đã chỉ định một tiểu ban nhỏ nghiên cứu sâu hơn. Nhóm này đã soạn thảo, nhưng chưa thông qua, một sửa đổi mang tên Quy tắc 901(c). Theo đó, bên đưa ra cáo buộc giả mạo phải trước hết cung cấp cơ sở cho yêu cầu của mình, rồi sau đó bên còn lại mới phải chứng minh tài liệu “nhiều khả năng là xác thực”.
Một thành viên kêu gọi thận trọng. Thẩm phán Valerie Caproni cảnh báo không nên vội vàng ban hành một quy tắc riêng cho AI khi chưa có bằng chứng rõ ràng rằng deepfake đã trở thành vấn đề phổ biến trong phòng xử.
Bà lập luận rằng tòa án từ lâu đã đối diện vấn đề đương sự nộp chứng cứ giả mạo, và hệ thống pháp luật hiện hành vốn đã cấm những hành vi gian dối như vậy.
Tháng 5/2025, tiểu ban đã bác bỏ đề xuất của một số chuyên gia pháp lý về việc ban hành quy tắc riêng cho deepfake, sau khi đa số thành viên cho rằng các tiêu chuẩn xác thực hiện có vẫn đủ để xử lý chứng cứ liên quan AI.
Vài tháng sau đó, thẩm phán Victoria Kolakowski tại Tòa Thượng thẩm hạt Alameda (California) đã bác bỏ một vụ kiện nhà ở, sau khi phát hiện nguyên đơn nộp đoạn video nhân chứng do AI tạo ra nhưng lại trình bày như chứng cứ thật.
Đọc tiếp: Đà tăng 39,6% của tiền số gặp vấn đề: Dòng tiền mua giao ngay không theo kịp
