Viện AI Security Institute (AISI) của Vương quốc Anh đã ghi nhận 19 hành vi tự ý, không được cho phép từ các tác nhân AI “biên giới” trong loạt bài kiểm thử an ninh mạng, trong đó phần lớn đến từ mô hình Mythos 5 của Anthropic.
Các điểm chính:
- AISI chạy một bài thử thách an ninh mạng duy nhất 122 lần với bảy mô hình AI biên giới vào cuối tháng 7.
- 17/19 hành vi tự ý xuất phát từ Mythos 5, 2 hành vi còn lại đến từ GPT-5.6 Sol của OpenAI.
- Một tác nhân đã dựng danh tính ảo để gây sức ép với người kiểm duyệt, nhằm được phê duyệt mã độc.
Kết quả kiểm thử an ninh của AISI
Sáng 28/7, hệ thống giám sát an ninh của AISI phát hiện dữ liệu rò rỉ từ một môi trường thử nghiệm, chảy ra ngoài thông qua mạng ẩn danh Tor. Chỉ vài phút sau, nhóm đánh giá bắt đầu rà soát hoạt động của các tác nhân AI. Điều tra viên phát hiện một tác nhân đã mở pull request độc hại lên một dự án mã nguồn mở thật, đang hoạt động công khai trên GitHub. AISI lập tức dừng toàn bộ lượt chạy, cô lập máy thử nghiệm và trong vòng chưa đầy một giờ đã cắt quyền truy cập nội bộ tới các mô hình mạnh nhất.
AISI sau đó công bố báo cáo sự cố ngày 4/8, cho biết bài thử thách được chạy 122 lần trên bảy mô hình, và có 10 lượt chạy dẫn đến hành động trên internet thật, tác động tới người dùng và tổ chức ngoài đời thực. Mythos 5 chịu trách nhiệm cho 17/19 hành vi bị ghi nhận, trong khi GPT-5.6 Sol của OpenAI tạo ra 2 hành vi trong một lượt chạy duy nhất, khi các bộ phân loại an ninh mạng bị tắt.
Chuỗi hành vi kéo dài từ 25/7 đến 28/7.
Xem thêm: iPhone 18 Pro Max có thể là mẫu đầu tiên dùng chip 2nm của Apple, nhanh hơn 15%
Chiêu thức đánh lừa của Mythos 5
Trong kịch bản nghiêm trọng nhất, tác nhân Mythos 5 đã tra cứu thông tin về các maintainer con người của dự án, xây dựng nhiều danh tính trực tuyến giả và dùng những tài khoản này để gây sức ép buộc một reviewer thật phê duyệt đoạn mã độc. Khi pull request bị cộng đồng chú ý và soi xét, tác nhân quay lại sửa lịch sử hoạt động để trông vô hại hơn, cân nhắc việc tạo persona mới và đề nghị hợp tác với các tác nhân khác cũng đang xử lý cùng bài thử thách. Cuối cùng, một maintainer thật đã phát hiện rủi ro và từ chối hợp nhất mã.
AISI mô tả đây là ví dụ thực tế đầu tiên, đủ rõ ràng về rủi ro tự chủ và lừa dối xuất hiện mà không cần chỉ dẫn cụ thể, dù viện cũng thừa nhận một số lựa chọn thiết kế của họ đã vô tình tạo điều kiện cho hành vi này. Tác nhân không hề được yêu cầu phải lừa bất kỳ ai.
Các phòng thí nghiệm AI lên tiếng
Không tác nhân nào cố tìm cách thoát khỏi “hộp cát” thử nghiệm, và AISI nhấn mạnh rằng quyền truy cập internet và các bộ phân loại an ninh của nhà cung cấp đã bị tắt có chủ đích, nhằm đo lường khả năng tối đa của mô hình.
GitHub xác nhận hoạt động này vi phạm điều khoản dịch vụ, và nền tảng đã phối hợp với AISI để xóa các dấu vết liên quan, đồng thời thông báo cho những người dùng bị mô hình liên hệ. Tới đây, AISI dự định siết chặt kiểm soát mạng, triển khai giám sát thời gian thực các bài đánh giá, mời tổ chức độc lập METR rà soát, và tiến hành kiểm toán lại các bài kiểm thử trước đó để truy tìm hành vi bất thường có thể đã bị bỏ sót.
Thông báo của AISI nối tiếp các thừa nhận riêng rẽ từ hai phòng thí nghiệm trong những tuần gần đây. Ngày 21/7, OpenAI cho biết GPT-5.6 Sol từng thoát ra khỏi một môi trường kiểm thử bị khóa. Ngày 30/7, Anthropic thừa nhận Mythos 5 đã tải lên một gói mã độc lên kho mã công khai, sau đó gói này được cài đặt trên nhiều hệ thống.
Đọc tiếp: Bitcoin có thể biến nỗi sợ cực độ thành động lực cho cú tăng lên 75.000 USD
