Một chatbot đã bịa ra một bản tin tình báo cho rằng một tàu Trung Quốc chở linh kiện vũ khí hạt nhân. Theo bốn nguồn tin, báo cáo sai lệch này suýt châm ngòi cho một cuộc kiểm tra tàu của phía Mỹ.
Các điểm chính:
- Lực lượng Mỹ có vũ trang đã chuẩn bị lên kiểm tra một tàu Trung Quốc tại Trung Đông, trong khi máy bay quân sự đã cất cánh.
- Giới chức phát hiện sai sót chỉ ít lâu trước khi triển khai, sau khi xác định báo cáo được tạo bởi chatbot AI.
- Các nhà nghiên cứu kêu gọi đặt “lằn ranh đỏ” để loại AI khỏi quyết định phóng hạt nhân, cùng một đường dây nóng xử lý sự cố AI.
Chatbot đọc sai manifest tàu Trung Quốc
Bốn người am hiểu vụ việc cho biết một đánh giá tình báo đã được lưu chuyển trong quân đội Mỹ vào mùa xuân năm nay, giữa bối cảnh chiến sự với Iran. Báo cáo cho rằng một tàu Trung Quốc ở Trung Đông đang chở các bộ phận phục vụ chương trình vũ khí hạt nhân. Nguồn lập báo cáo về manifest của con tàu được cho là từ Bộ Tư lệnh Tác chiến Đặc biệt Mỹ khu vực Thái Bình Dương, đặt tại Hawaii, nhưng đơn vị này chưa phản hồi yêu cầu bình luận.
Binh sĩ có vũ trang đã chuẩn bị lên tàu, trong khi máy bay quân sự đã ở trên không. Chỉ ít lâu trước khi chiến dịch dự kiến diễn ra, các quan chức rà soát lại báo cáo và phát hiện một nhà phân tích đã dựng báo cáo bằng AI, còn chatbot thì nhận diện sai hàng hóa trên tàu.
Bot này kết hợp dữ liệu nguồn mở với tình báo tín hiệu mật được lưu trong hệ thống chính phủ, sau đó nhà phân tích lại dùng AI một lần nữa để đóng gói thành một sản phẩm tình báo thông thường.
Một nguồn tin gọi bản báo cáo là “hoàn toàn sai sự thật”. Phóng viên chưa thể xác minh chính xác hàng hóa thực tế trên tàu, cũng như không rõ chatbot là sản phẩm thương mại hay do chính phủ phát triển.
Đọc thêm: Dự báo giá Nvidia đến năm 2030 cho thấy khoảng chênh từ 727 đến 28.560 USD
Sisson và Jiang kêu gọi các “lằn ranh đỏ” về hạt nhân
Melanie Sisson thuộc Brookings Institution và Tianjiao Jiang của Đại học Phúc Đán công bố các biện pháp bảo vệ đối với AI quân sự vào tuần trước, trong khuôn khổ đối thoại mà hai tổ chức này phối hợp với Đại học Thanh Hoa từ năm 2019. Họ muốn thiết lập các “lằn ranh đỏ” ngăn công nghệ này tham gia vào quyết định phóng hạt nhân và vào các đòn tấn công nhằm vào mạng lưới chỉ huy hạt nhân của đối phương.
Hai chuyên gia cũng đề xuất một đường dây nóng riêng cho các sự cố liên quan đến AI, cùng một định nghĩa chung về “kiểm soát của con người có ý nghĩa”. Đề xuất này được đưa ra trong một hệ thống phân tán, không có một chuẩn thống nhất nào để kiểm chứng đầu ra của công cụ, trong khi độ tin cậy lại khác nhau đáng kể giữa các cơ quan. Giới chức cho biết việc sử dụng AI trong nhắm mục tiêu đang gia tăng, nhưng vẫn thiếu hướng dẫn cụ thể về cách người kiểm duyệt bảo đảm không gây thương vong dân sự hay bắn nhầm lực lượng đồng minh.
Chiến lược AI của Hegseth bị soi xét
Bộ trưởng Quốc phòng Pete Hegseth công bố chiến lược đẩy nhanh ứng dụng AI vào tháng 1/2026, với cam kết xây dựng lực lượng “AI-first” trên mọi mặt trận và đưa các mô hình vào tay 3 triệu nhân sự. Tuy nhiên, quá trình triển khai từ đó đến nay vẫn rời rạc, khi các đơn vị khác nhau vận hành những công cụ riêng theo các bộ quy tắc an toàn riêng biệt.
Washington và Bắc Kinh từng nhiều lần bàn về vấn đề này. Joe Biden và Tập Cận Bình đã nhất trí vào tháng 11/2024 rằng con người, chứ không phải máy móc, phải kiểm soát các quyết định sử dụng vũ khí hạt nhân, dù hai bên chưa nêu rõ cơ chế thực thi. Donald Trump sẽ đón ông Tập tại Washington vào ngày 24/9, và AI dự kiến sẽ nằm trong chương trình nghị sự.
Đọc tiếp: Google Gemini bị cáo buộc xâm nhập 3 công ty trong các vụ xâm nhập tự động đầu tiên được biết đến
