Một nhóm nhỏ người dùng trái phép đã khai thác Anthropic's restricted Claude Mythos trong khoảng hai tuần, truy cập thông qua môi trường nhà cung cấp bên thứ ba.
Lỗ hổng tại nhà cung cấp Mythos
Bloomberg lần đầu reported vụ vi phạm vào ngày 21/4, trích dẫn nguồn tin bên trong một kênh Discord riêng tư chuyên theo dõi các mô hình AI chưa công bố.
Nhóm này truy cập được vào ngày 7/4, cùng ngày Anthropic unveiled Mythos.
Theo nguồn tin, các thành viên dựa vào thông tin xác thực từ một nhà thầu bên thứ ba và các công cụ truy vết mã nguồn mở phổ biến để đoán endpoint của mô hình. Họ đã handed cho Bloomberg ảnh chụp màn hình và một bản demo trực tiếp làm bằng chứng.
“Chúng tôi đang điều tra một báo cáo cho rằng đã có truy cập trái phép vào Claude Mythos Preview thông qua một trong các môi trường nhà cung cấp bên thứ ba của chúng tôi”, người phát ngôn Anthropic cho biết. Công ty chưa tìm thấy bằng chứng cho thấy các hệ thống nội bộ của mình bị động chạm.
Cũng nên đọc: $292M KelpDAO Hack Highlights Ethereum Weakness, Hoskinson Says
Hệ quả bảo mật của Glasswing
Nhóm này được cho là đã tránh chạy các yêu cầu liên quan đến an ninh mạng trên Mythos, một động thái mà các nhà phân tích cho rằng nhằm né tránh bị phát hiện hơn là chứng minh vô hại.
Các nhà bình luận độc lập lưu ý rằng ý định không còn nhiều ý nghĩa khi công cụ được nói đến có thể tìm và khai thác lỗ hổng zero-day trên mọi hệ điều hành và trình duyệt lớn.
Các nhà nghiên cứu bảo mật viết trên Schneier on Security và Cybersecurity News cho rằng sự việc này exposes mắt xích yếu nhất của AI tiên tiến: tài khoản nhà thầu và cách đặt tên endpoint dễ đoán.
Anthropic ra mắt Mythos Preview vào ngày 7/4 trong khuôn khổ Dự án Glasswing, cam kết tới 100 triệu đô la tín dụng sử dụng.
Quyền truy cập chỉ giới hạn cho 12 đối tác khởi động, bao gồm Apple, Microsoft, Google, Amazon Web Services và Nvidia, cùng khoảng 40 tổ chức hạ tầng trọng yếu. Công ty trước đó đã warned rằng mô hình này có thể bị vũ khí hóa nếu rơi vào tay kẻ xấu, một cảnh báo giờ đây được xem là mang tính tiên tri.
Bài tiếp theo: CHIP Volume Now Outpaces Market Cap As Traders Pile In