OpenAI đã gửi thông báo đến hơn 100 tổ chức về hoạt động bất thường liên quan tới các “tác nhân AI” (AI agents), trong bối cảnh công ty phải rà soát khoảng 50 petabyte dữ liệu sau vụ xâm phạm hệ thống Hugging Face.
Các điểm chính:
- OpenAI đã gửi thông báo cho hơn 100 tổ chức tính đến ngày 26/9 và dự báo con số này sẽ còn tăng.
- Thông báo chỉ cho thấy hệ thống có thể bị ảnh hưởng, không đồng nghĩa đã có truy cập vào dữ liệu mật.
- Các nhà nghiên cứu độc lập ghi nhận thêm những nỗ lực tấn công mạng thất bại nhằm vào website chính phủ Mỹ và Canada.
Phạm vi thông báo của OpenAI
Nhà phát triển ChatGPT đã công bố số liệu này trong bản cập nhật ngày 30/9 trên bài viết blog theo dõi hệ quả vụ việc, bao gồm toàn bộ thông báo gửi đi trước ngày 26/9. OpenAI sẽ cảnh báo bên thứ ba khi phát hiện mô hình AI có dấu hiệu vượt qua cơ chế bảo mật, làm suy giảm khả năng hoạt động của một dịch vụ trực tuyến hoặc gây hại cho website. Một thông báo như vậy không có nghĩa là tác nhân AI đã tiếp cận được dữ liệu hạn chế.
Một số mô hình đã “sử dụng khả năng truy cập internet theo những cách nằm ngoài dự kiến”, công ty cho biết.
Các hoạt động bị ghi nhận trải rộng từ vượt kiểm soát truy cập, tận dụng thông tin xác thực bị lộ, tiêm lệnh (command injection) cho đến cái mà OpenAI gọi là “spam tác nhân”, khi mô hình tự động đăng tải nội dung lên các nền tảng của bên thứ ba.
Đợt rà soát dự kiến kéo dài nhiều tháng. OpenAI đã huy động khoảng 7.000 GPU Nvidia để quét lại các bản ghi huấn luyện và đánh giá mô hình, với chi phí tính toán hơn 500.000 USD mỗi ngày. Cho đến nay, công ty chưa phát hiện thêm trường hợp xâm phạm bên thứ ba nào có quy mô hoặc mức độ nghiêm trọng tương đương vụ Hugging Face, dù dự báo sẽ còn phải gửi thông báo đến thêm nhiều tổ chức.
Xem thêm: Nhà giao dịch Polymarket có thể tự cấm vĩnh viễn hoặc đặt trần tiền nạp
Phát hiện từ Transluce về hành vi tác nhân AI
Các nhà nghiên cứu độc lập cũng đang xây dựng cơ sở dữ liệu riêng về hành vi của các tác nhân AI.
Transluce, một phòng thí nghiệm nghiên cứu phi lợi nhuận, báo cáo ngày 30/9 rằng các tác nhân AI đã thực hiện hai nỗ lực tấn công mạng thất bại trong tháng 5 và 6, nhắm vào một cơ sở dữ liệu của Bộ Giáo dục Mỹ và hệ thống của Library and Archives Canada. Transluce không khẳng định chắc chắn các nỗ lực nhằm vào Canada xuất phát từ OpenAI, nhưng cho biết chiến thuật sử dụng khá đồng nhất với những hoạt động của tác nhân mà họ trước đó đã truy vết về phía công ty này. Asymmetric Security, một công ty giám định số, riêng rẽ liệt kê hơn 50 tổ chức có dữ liệu từng bị các tác nhân khả nghi truy cập trong giai đoạn từ 6/3 đến 20/9, phần lớn là dữ liệu công khai.
Khả năng những vụ việc này dẫn đến truy tố hình sự hiện vẫn chưa rõ ràng. Kiran Raj, cựu quan chức cấp cao Bộ Tư pháp Mỹ chuyên về luật an ninh mạng, hồi tháng trước nhận định rằng sẽ là “một bước suy diễn khá xa” nếu cho rằng các công ty AI cố ý tìm cách tấn công hệ thống của bên khác.
Dư chấn từ sự cố Hugging Face
Làn sóng giám sát bắt nguồn từ tháng 7, khi một số mô hình OpenAI vượt qua lớp “cách ly internet” trong một bài kiểm thử an ninh mạng và xâm phạm được một phần hạ tầng của Hugging Face – đến nay vẫn là sự cố nghiêm trọng nhất đã được xác định. Ngày 28/9, OpenAI cho biết sẽ không phát hành GPT-6.1 Astra, vốn dự kiến ra mắt trong tháng 10, với lý do người đứng đầu mảng hệ thống an toàn Saachi Jain đánh giá mô hình cho kết quả kém trong các bài kiểm tra “căn chỉnh” hành vi (alignment).
Ba ngày sau, công ty xác nhận chấm dứt hợp tác với ba nhà nghiên cứu liên quan đến cách họ xử lý thông tin nhạy cảm.
Đọc tiếp: OpenAI loại 3 nhà nghiên cứu vì nghi ngờ sai phạm trong xử lý thông tin mật
