David Sacks, cố vấn công nghệ Nhà Trắng, cho biết chính quyền Trump đã áp kiểm soát xuất khẩu với Anthropic sau khi công ty từ chối vá một jailbreak được báo cáo trong mô hình Fable AI.
Sacks nêu chi tiết lệnh với Anthropic
Trong một bài đăng trên X hôm thứ Bảy, Sacks viết rằng một đối tác đáng tin cậy đang thử nghiệm Fable đã tìm ra cách vượt qua các rào chắn được thiết kế để chặn việc sử dụng cho an ninh mạng. Sau đó, chính quyền yêu cầu CEO Anthropic Dario Amodei sửa lỗi hoặc rút mô hình.
Amodei đã từ chối, theo lời Sacks.
Tranh chấp diễn ra sau đợt phát hành Fable 5 ngày 9/6 của Anthropic, một phiên bản của hệ thống Mythos 5 mạnh hơn, được trang bị thêm rào chắn an toàn. Bộ trưởng Thương mại Howard Lutnick sau đó cấm người nước ngoài sử dụng cả hai mô hình, và Anthropic đã vô hiệu hóa chúng trên toàn thế giới.
Cũng nên đọc: Bitcoin Bulls Eye $67K After Trump Says Hormuz Will Open To All
Anthropic tranh luận về mức độ nghiêm trọng của jailbreak
Anthropic đã phản hồi trong một bài blog. Công ty cho biết họ không đồng ý với quan điểm rằng một jailbreak hẹp lại đủ để buộc phải thu hồi một mô hình được hàng triệu người dùng, và lập luận rằng các hệ thống đối thủ cũng có thể bị khai thác theo cách tương tự.
Sacks nói động thái này được đưa ra một cách miễn cưỡng, và các quan chức hy vọng Anthropic sẽ sửa lỗi để Fable có thể quay lại. Ông cũng phủ nhận bất kỳ liên hệ nào với căng thẳng trước đó. Tháng 3, Lầu Năm Góc đã xếp Anthropic vào diện rủi ro chuỗi cung ứng, một phân loại mà công ty hiện đang kiện ra tòa liên bang.
Đọc tiếp: Index Rules Turn SpaceX's $2T Debut Into A Market Stress Test