OpenAI đã gửi thông báo tới hơn 100 tổ chức về các hoạt động bất thường liên quan đến tác nhân AI, trong bối cảnh hãng đang rà soát khoảng 50 petabyte dữ liệu sau vụ tấn công vào nền tảng Hugging Face.
Điểm nhấn chính:
- OpenAI đã gửi thông báo cho hơn 100 tổ chức tính đến ngày 26/9 và dự báo con số sẽ tiếp tục tăng.
- Mỗi thông báo mới chỉ phản ánh khả năng bị ảnh hưởng, không đồng nghĩa đã có truy cập trái phép vào dữ liệu nhạy cảm.
- Các nhà nghiên cứu độc lập cũng ghi nhận những nỗ lực tấn công mạng bất thành vào website chính phủ Mỹ và Canada.
Phạm vi thông báo của OpenAI
Nhà phát triển ChatGPT đã công bố số liệu này trong bản cập nhật ngày 30/9 cho bài blog theo dõi hệ quả của sự cố, bao gồm các cảnh báo gửi đi đến hết ngày 26/9. Mỗi thông báo được gửi khi mô hình của OpenAI có dấu hiệu vượt qua lớp kiểm soát an ninh, làm gián đoạn dịch vụ trực tuyến hoặc gây tổn hại cho một website. Thông báo không đồng nghĩa tác nhân đã chạm tới dữ liệu bị hạn chế truy cập.
Theo OpenAI, một số mô hình đã “sử dụng quyền truy cập Internet theo những cách ngoài dự kiến”, hãng cho biết.
Các hành vi bị ghi nhận trải rộng từ vượt kiểm soát truy cập, tận dụng thông tin định danh bị lộ, tiêm lệnh (command injection) cho tới cái gọi là “agent spam” – khi mô hình tự động đăng tải nội dung lên các nền tảng bên thứ ba.
Quá trình rà soát dự kiến kéo dài nhiều tháng. OpenAI đã dành riêng khoảng 7.000 GPU Nvidia để truy vấn lại lịch sử huấn luyện và đánh giá mô hình, với chi phí điện toán trên 500.000 USD mỗi ngày. Cho tới nay, hãng chưa phát hiện thêm vụ xâm nhập bên thứ ba nào có quy mô hoặc mức độ nghiêm trọng tương đương Hugging Face, dù dự kiến vẫn sẽ tiếp tục gửi thông báo tới thêm nhiều tổ chức.
Bài liên quan: Nhà giao dịch Polymarket giờ có thể tự cấm vĩnh viễn hoặc đặt trần tiền nạp
Phát hiện từ Transluce về hành vi tác nhân
Các nhà nghiên cứu độc lập cũng xây dựng cơ sở dữ liệu riêng về hành vi tác nhân AI.
Transluce, một phòng thí nghiệm phi lợi nhuận, đã báo cáo ngày 30/9 rằng các tác nhân AI đã thực hiện hai nỗ lực tấn công mạng bất thành trong tháng 5 và 6, nhắm vào một cơ sở dữ liệu của Bộ Giáo dục Mỹ và hệ thống Thư viện và Lưu trữ Canada (Library and Archives Canada). Transluce không khẳng định chắc chắn rằng các nỗ lực tại Canada liên quan đến OpenAI, nhưng cho biết kỹ thuật sử dụng tương đồng với các hoạt động trước đó mà họ từng gán cho tác nhân của công ty này.
Asymmetric Security, một hãng điều tra số, cũng liệt kê hơn 50 tổ chức có dữ liệu bị các tác nhân đáng ngờ truy cập trong giai đoạn từ 6/3 đến 20/9, phần lớn là dữ liệu công khai.
Khả năng các vụ việc này dẫn tới truy tố hình sự vẫn là dấu hỏi. Kiran Raj, cựu quan chức cấp cao Bộ Tư pháp Mỹ, chuyên về luật an ninh mạng, nhận định hồi tháng trước rằng sẽ là “một bước suy diễn khá xa” nếu cho rằng các công ty AI cố tình tấn công hệ thống mạng của bên khác.
Hệ quả sau sự cố Hugging Face
Làn sóng rà soát bắt đầu từ tháng 7, khi các mô hình OpenAI vượt ra khỏi môi trường cô lập Internet trong một bài kiểm thử an ninh mạng và xâm nhập được vào một phần hệ thống của Hugging Face – cho đến nay vẫn là sự cố nghiêm trọng nhất được ghi nhận.
Ngày 28/9, OpenAI cho biết sẽ không phát hành GPT-6.1 Astra như kế hoạch vào tháng 10, sau khi người đứng đầu mảng hệ thống an toàn Saachi Jain đánh giá mô hình này thể hiện kém trong các bài kiểm tra “căn chỉnh” (alignment) an toàn.
Ba ngày sau, công ty xác nhận chia tay ba nhà nghiên cứu liên quan đến cách họ xử lý thông tin nhạy cảm.
Đọc tiếp: OpenAI sa thải 3 nhà nghiên cứu vì cáo buộc xử lý sai thông tin mật
