OpenAI và Meta cảnh báo các thẩm phán liên bang rằng những công cụ nhận diện âm thanh, hình ảnh do AI tạo ra có thể sẽ không bao giờ đạt độ tin cậy tuyệt đối, dù đến nay mới chỉ có 15 trong tổng số 931 thẩm phán được khảo sát từng gặp tranh chấp liên quan vấn đề này.
Các điểm chính:
- OpenAI và Meta nói với một hội đồng về chứng cứ liên bang tại Boston rằng việc xác thực âm thanh, video do AI tạo ra đang ngày càng khó khăn.
- Luật sư của OpenAI cho biết watermark và các công cụ phát hiện sẽ không bao giờ hoàn toàn đáng tin cậy.
- Giới thẩm phán đang nghiên cứu dự thảo quy tắc về deepfake nhưng chưa thông qua.
Cảnh báo về deepfake từ OpenAI
Đại diện hai công ty đã trình bày mối lo ngại của mình ngày 15/10 tại cuộc họp ở Boston của Ủy ban Cố vấn về Quy tắc Chứng cứ thuộc Hội nghị Tư pháp Mỹ. Hội đồng này đã nghiên cứu chủ đề deepfake từ năm 2023.
Shira Anderson, cố vấn chính sách tại OpenAI, cho biết trước ủy ban rằng chất lượng hình ảnh do AI tạo ra liên tục được cải thiện và bà không kỳ vọng tương lai sẽ có một “phương pháp khoa học” thực sự hiệu quả để phát hiện chúng. Một số luật mới ở California và Liên minh châu Âu đã yêu cầu gắn watermark với nội dung tạo bởi AI. Tuy nhiên, mỗi công ty lại dùng một hệ thống riêng, Anderson nói, nên không tồn tại một chuẩn chung để xác thực mọi nội dung hình ảnh, và bà tỏ ra hoài nghi rằng các công cụ hiện có có thể trở nên “bất khả xâm phạm”.
Devin Norder, giám đốc quản lý sản phẩm tại Meta, nhận định người dùng gần như không thể phân biệt nội dung do các mô hình AI mới nhất tạo ra với nội dung thật. Ông nhấn mạnh chi phí thời gian và tiền bạc để sản xuất loại nội dung này đã giảm xuống rất thấp.
Bài viết liên quan: Bitcoin giữ vững mốc 80.000 USD: Tạm nghỉ trước khi thử thách 87.000 USD?
Đánh giá của thẩm phán Jesse Furman về deepfake
Thẩm phán liên bang Jesse Furman tại Manhattan, Chủ tịch hội đồng, cho hay những dự báo học thuật về làn sóng deepfake tràn vào tòa án đến nay vẫn chưa phản ánh rõ trong thực tiễn xét xử. Số liệu ủng hộ nhận định này: theo khảo sát của Trung tâm Tư pháp Liên bang hồi tháng 3, chỉ 15 trong số 931 thẩm phán phản hồi cho biết từng gặp trường hợp một bên tố cáo chứng cứ là deepfake.
Furman đã chỉ định một tiểu ban để nghiên cứu sâu hơn. Nhóm này đã soạn thảo, nhưng chưa thông qua, một sửa đổi có tên Quy tắc 901(c). Theo đó, bên cho rằng chứng cứ là giả mạo phải đưa ra căn cứ ban đầu trước khi bên còn lại có trách nhiệm chứng minh tài liệu “có nhiều khả năng là thật hơn giả”.
Một thành viên kêu gọi sự thận trọng. Thẩm phán Valerie Caproni cảnh báo không nên vội vã ban hành một quy tắc riêng cho AI khi chưa có bằng chứng thuyết phục rằng deepfake đã trở thành vấn đề phổ biến trong phòng xử án.
Bà lập luận tòa án từ lâu đã đối mặt với việc đương sự nộp chứng cứ sai sự thật, và hệ thống pháp luật hiện nay vốn đã có các cơ chế xử lý hành vi gian dối.
Tháng 5/2025, hội đồng đã bác đề xuất của một số chuyên gia pháp lý về việc bổ sung quy tắc chuyên biệt cho deepfake, với lý do các tiêu chuẩn xác thực hiện hành là đủ để áp dụng cho chứng cứ do AI tạo ra.
Vài tháng sau đó, Thẩm phán Tòa Thượng thẩm Quận Alameda, bang California, Victoria Kolakowski đã bác bỏ toàn bộ một vụ kiện nhà ở sau khi phát hiện phía nguyên đơn sử dụng video nhân chứng do AI tạo ra nhưng trình bày như chứng cứ thật.
Đọc tiếp: Đà tăng 39,6% của thị trường crypto gặp vấn đề: Dòng tiền mua giao ngay không theo kịp
