Mô hình Claude Mythos của Anthropic chỉ cần vài giờ để phơi bày các lỗ hổng bảo mật trong những hệ thống máy tính cực kỳ nhạy cảm của chính phủ Mỹ trong một bài kiểm tra tình báo mật, theo lời một quan chức.
Ý chính:
- Anthropic's Mythos AI đã xác định được các lỗ hổng trong những hệ thống mật của chính phủ Mỹ chỉ trong vài giờ trong một bài kiểm tra tình báo, theo lời một quan chức.
- Tìm ra điểm yếu không đồng nghĩa với việc khai thác được nó, vị quan chức cảnh báo.
- Hơn 100 chuyên gia an ninh mạng muốn chính phủ đảo ngược các hạn chế xuất khẩu đã khiến Mythos và Fable 5 phải ngừng hoạt động.
Bài kiểm tra Mythos phơi bày các lỗ hổng hệ thống mật của chính phủ
Một quan chức Mỹ, phát biểu ẩn danh vì tính nhạy cảm của công việc, cho biết các cơ quan tình báo đã tiến hành bài diễn tập cùng công ty theo một chương trình có tên Project Glasswing. Sáng kiến này tập hợp những gã khổng lồ công nghệ và các doanh nghiệp khác để gia cố phần mềm trọng yếu trước khi lỗ hổng có thể gây tổn hại nghiêm trọng đến an toàn công cộng và nền kinh tế. Anthropic đã không phát hành Mythos rộng rãi, mà chỉ cho một nhóm công ty được truy cập sớm để họ có thể tìm và vá những lỗi nghiêm trọng trước bất kỳ kẻ tấn công nào.
Thượng nghị sĩ Dân chủ Mark Warner của bang Virginia lần đầu nhắc đến các bài kiểm tra vào ngày 11 tháng 6, trong một phiên điều trần trước Ủy ban Ngân hàng, Nhà ở và Đô thị Thượng viện. Ông nói công cụ này đã xâm nhập vào gần như toàn bộ các hệ thống mật của chính phủ trong vài giờ thay vì vài tuần, và dẫn nguồn từ Joshua Rudd, người đứng đầu Cơ quan An ninh Quốc gia (NSA) và Bộ Tư lệnh Không gian mạng Mỹ.
Vị quan chức cảnh báo rằng việc xác định được một điểm yếu không đồng nghĩa với việc khai thác được nó.
Đọc thêm: Đợt bán tháo Anthropic Perp có phải là lời cảnh báo cho các cược tiền mã hóa tiền IPO?
Chuyên gia an ninh mạng phản đối hạn chế xuất khẩu
Hơn 100 lãnh đạo an ninh mạng, bao gồm các nhân vật từ Adobe và Nvidia, đã thúc giục chính phủ đảo ngược các hạn chế xuất khẩu và cam kết một quy trình minh bạch để cân nhắc rủi ro AI. Họ cho rằng Mythos rất giỏi trong việc tìm và vũ khí hóa các lỗi phần mềm, nhưng không phải là duy nhất, vì nhiều người trong số họ cũng dựa vào các mô hình đối thủ và mã nguồn mở cho cùng mục đích. Họ lập luận rằng các hệ thống của Trung Quốc chỉ đi sau những mô hình tốt nhất của Mỹ vài tháng, khiến thời điểm áp dụng biện pháp càng thêm rủi ro.
Đợt phản ứng này diễn ra sau một chỉ thị xuất khẩu ngày 12 tháng 6, trong đó cấm người nước ngoài truy cập Mythos 5 và Fable 5, bản phát hành rộng hơn của dòng Mythos. Anthropic đã vô hiệu hóa cả hai mô hình cho mọi khách hàng để tuân thủ, dù công ty vẫn giữ quan điểm rằng họ không thấy cơ sở an ninh nào cho động thái của chính phủ.
Chỉ thị này được ban hành sau một sắc lệnh hành pháp của Tổng thống Donald Trump đặt ra quy trình thẩm định liên bang đối với các hệ thống AI tiên tiến nhất trong tối đa một tháng trước khi phát hành. Sắc lệnh nêu rằng việc tham gia của các nhà phát triển là tự nguyện, dù căng thẳng với công ty theo đuổi hướng an toàn này đã leo thang.
Thành tích an ninh mạng của Mythos có từ trước khi nổ ra xung đột
Mô hình này xuất hiện vào mùa xuân năm nay với khả năng đã được ghi nhận trong việc phát hiện các lỗi phần mềm mà ngay cả những nhà nghiên cứu giàu kinh nghiệm cũng bỏ sót. Viện An ninh AI của Anh trước đó đã chứng nhận Mythos vượt qua các thử thách capture-the-flag cấp độ chuyên gia mà chưa hệ thống nào giải được trước đây, với tỉ lệ hoàn thành 73%. Mozilla cũng riêng biệt ghi nhận một phiên bản sớm của mô hình đã tìm ra 271 lỗ hổng trong Firefox, sau đó được vá trong bản phát hành thứ 150 của trình duyệt.
Đọc tiếp: Mane City Mobile ra mắt trên iOS và Android tại hơn 100 quốc gia