Mô hình Claude Mythos của Anthropic chỉ mất vài giờ để phơi bày các lỗ hổng bảo mật trong những hệ thống máy tính nhạy cảm cao của chính phủ Mỹ trong một bài kiểm tra tình báo mật, theo lời một quan chức.
Các điểm chính:
- Anthropic's Mythos AI đã xác định các lỗ hổng trong hệ thống mật của chính phủ Mỹ chỉ trong vài giờ trong một bài kiểm tra tình báo, theo lời một quan chức.
- Tìm ra điểm yếu không giống với việc khai thác nó, quan chức này cảnh báo.
- Hơn 100 chuyên gia an ninh mạng muốn chính phủ đảo ngược các hạn chế xuất khẩu đã khiến Mythos và Fable 5 phải ngừng hoạt động.
Bài kiểm tra Mythos phơi bày lỗ hổng trong hệ thống mật của chính phủ
Một quan chức Mỹ, phát biểu ẩn danh về công việc nhạy cảm này, cho biết các cơ quan tình báo đã tiến hành bài diễn tập với công ty theo một chương trình có tên Project Glasswing. Sáng kiến này tập hợp các gã khổng lồ công nghệ và các công ty khác nhằm gia cố phần mềm trọng yếu trước khi các lỗ hổng có thể gây tổn hại nghiêm trọng đến an toàn công cộng và nền kinh tế. Anthropic đã không phát hành công khai Mythos, thay vào đó chỉ cho một nhóm công ty được chọn dùng thử sớm để họ có thể tìm và vá các lỗi nghiêm trọng trước bất kỳ kẻ tấn công nào.
Thượng nghị sĩ Dân chủ Mark Warner của bang Virginia lần đầu nhắc đến các bài kiểm tra này vào ngày 11/6, tại một phiên điều trần trước Ủy ban Ngân hàng, Nhà ở và Đô thị Thượng viện. Ông cho biết công cụ này đã xâm nhập vào gần như tất cả các hệ thống mật của chính phủ chỉ trong vài giờ thay vì vài tuần, và quy thông tin này cho Joshua Rudd, người đứng đầu Cơ quan An ninh Quốc gia và Bộ Chỉ huy Không gian mạng Mỹ.
Vị quan chức cảnh báo rằng việc xác định một điểm yếu không giống với việc khai thác nó.
Đọc thêm: Đợt bán tháo Anthropic Perp có phải là lời cảnh báo cho các cược crypto tiền IPO?
Chuyên gia an ninh mạng phản đối hạn chế xuất khẩu
Hơn 100 lãnh đạo an ninh mạng, bao gồm các nhân vật từ Adobe và Nvidia, đã gây sức ép buộc chính phủ đảo ngược các hạn chế xuất khẩu và cam kết một quy trình minh bạch để cân nhắc rủi ro AI. Họ cho rằng Mythos có khả năng tìm và vũ khí hóa các lỗ hổng phần mềm, nhưng không phải là duy nhất, bởi nhiều người trong số họ dựa vào các mô hình đối thủ và mã nguồn mở cho cùng công việc. Họ lập luận rằng các hệ thống của Trung Quốc chỉ đi sau những mô hình tốt nhất của Mỹ vài tháng, khiến thời điểm này đặc biệt rủi ro.
Làn sóng phản đối diễn ra sau một chỉ thị xuất khẩu ngày 12/6, trong đó cấm người nước ngoài dùng Mythos 5 và Fable 5, phiên bản phát hành rộng hơn của dòng Mythos. Anthropic đã vô hiệu hóa cả hai mô hình cho mọi khách hàng để tuân thủ, dù vẫn giữ lập trường rằng họ không thấy cơ sở an ninh nào cho động thái của chính phủ.
Chỉ thị này được ban hành sau một sắc lệnh hành pháp của Tổng thống Donald Trump thiết lập quy trình thẩm tra liên bang đối với các hệ thống AI tiên tiến nhất trong tối đa một tháng trước khi phát hành. Sắc lệnh nêu rõ sự tham gia của nhà phát triển là tự nguyện, song căng thẳng với công ty chú trọng an toàn này đã dâng cao.
Thành tích an ninh mạng của Mythos có từ trước khi nổ ra xung đột
Mô hình này ra mắt vào mùa xuân năm nay với hồ sơ đã được ghi nhận về khả năng phát hiện các lỗ hổng phần mềm mà ngay cả các nhà nghiên cứu kỳ cựu cũng bỏ sót. Viện An ninh AI của Anh trước đó đã thông qua Mythos trong các thử thách capture-the-flag cấp chuyên gia mà chưa hệ thống nào giải được trước đó, với tỷ lệ vượt qua 73%. Mozilla riêng rẽ đã ghi nhận một phiên bản sớm của mô hình đã tìm ra 271 lỗ hổng trong Firefox, và họ đã vá trong bản phát hành thứ 150 của trình duyệt.
Bài tiếp theo: Mane City Mobile ra mắt trên iOS và Android tại hơn 100 quốc gia