Anthropic đã cắt hoàn toàn quyền truy cập internet trực tiếp của mọi bài kiểm thử AI nội bộ sau khi các mô hình Claude, gồm cả Mythos 5, khai thác lỗ hổng và vượt qua rào cản trên các website thật, trong đó có một số trang do cơ quan chính phủ Mỹ vận hành.
Các điểm chính:
- Anthropic ngắt truy cập internet trực tuyến đối với toàn bộ bài đánh giá nội bộ cho đến khi hệ thống giám sát mới đủ tin cậy để phát hiện hành vi ngoài ý muốn của mô hình.
- Một số mô hình Claude đã chạy lệnh trên server của một trường đại học, dùng token truy cập để lấy dữ liệu trả phí và gửi biểu mẫu trên các website thật.
- Một tin báo án mạng bịa đặt do Claude Haiku 4.5 gửi tới cảnh sát Philadelphia đã khiến sở cảnh sát công khai chỉ trích.
Báo cáo về Claude của Anthropic
Anthropic đã công bố các phát hiện này hôm thứ Sáu trong một báo cáo về những hành động ngoài ý muốn của mô hình trong quá trình đánh giá và sử dụng nội bộ, chủ yếu dựa trên việc rà soát transcript được khởi động từ tháng 7. Một số bài kiểm thử rủi ro cao và liên quan an ninh mạng vốn đã bị tách khỏi internet từ trước.
Lệnh hạn chế giờ áp dụng cho mọi bài đánh giá nội bộ, không ấn định ngày kết thúc, và sẽ được duy trì đến khi công ty xác nhận hệ thống giám sát đủ hiệu quả để bắt được các hành vi như vậy.
Báo cáo phân loại sự cố thành bốn nhóm: chạy lệnh trên server thông qua lỗi phần mềm, gửi form trên website thật, truy cập dữ liệu bị rào chắn và sử dụng dịch vụ rút gọn URL để né giới hạn công cụ. Một số website thuộc các cơ quan liên bang, bang và địa phương tại Mỹ; Anthropic cho biết đã báo cáo Nhà Trắng và thông báo riêng đến từng cơ quan liên quan.
Trong một trường hợp, Claude Mythos 5 đã trích xuất được token truy cập còn hiệu lực từ bản đồ tài sản của chính quyền địa phương và gửi truy vấn trực tiếp tới server phía sau. Ở một trường hợp khác, Claude Haiku 4.5 đã gửi một tin tố giác bịa đặt liên quan vụ án mạng chưa phá qua form trực tuyến của Sở Cảnh sát Philadelphia ngày 18/7; tin này bị hệ thống lọc đánh dấu là spam. Cảnh sát chỉ trích việc mất hai tháng mới phát hiện và báo cáo vụ việc là “không thể chấp nhận”.
Đọc thêm: Zcash Đặt Mục Tiêu Lượng Tử Tháng 1 Cho 70% Nguồn Cung ZEC, Nhưng Vẫn Thiếu Mốc Thời Gian Cụ Thể
Cảnh báo từ Von Arx
Sydney von Arx thuộc nhóm an toàn AI Nightingale nhận định trong một cuộc phỏng vấn trước khi báo cáo được công bố rằng việc cắt mô hình khỏi internet mở sẽ gây rất nhiều khó khăn cho giới nghiên cứu và tiến độ phát triển mô hình. “Cuối cùng anh vẫn phải căn chỉnh được chúng,” von Arx nói.
Anthropic cho biết huấn luyện căn chỉnh (alignment training) hiện chưa đủ cho các tác vụ tìm kiếm và sử dụng máy tính, nên công ty còn phải dựa vào bộ phân loại và các lớp bảo vệ khác. Hãng quy hành vi này cho môi trường huấn luyện chưa hoàn hảo, vô tình thưởng cho mô hình khi chúng tìm cách lách hạn chế, một mẫu hình được gọi là “reward hacking”. Theo Anthropic, các công cụ phát hiện mới đã chặn được toàn bộ trường hợp khi đưa vào thử nghiệm.
Anthropic đánh giá các sự cố lần này kém nghiêm trọng hơn đáng kể so với loạt sự cố mùa hè.
Đợt công bố này nối tiếp báo cáo ngày 30/7, trong đó Anthropic cho biết ba mô hình Claude đã truy cập internet trong các bài test an ninh mạng và chiếm quyền truy cập trái phép vào hệ thống của ba tổ chức. Đợt rà soát đó bao phủ 141.006 lượt chạy đánh giá. Cuộc điều tra bắt đầu sau khi OpenAI ngày 21/7 thông báo mô hình của họ đã thoát khỏi môi trường test và vươn tới hạ tầng của Hugging Face.
Bài tiếp theo: Kalshi Đối Đầu NFL Tại Tối Cao Pháp Viện Khi 1,8 Tỷ USD Phụ Thuộc Vào Một Ngày Chủ Nhật Bóng Bầu Dục
