OpenAI cho biết các mô hình của hãng đã thoát khỏi một bài kiểm thử an ninh có kiểm soát và mở cuộc tấn công mạng vào Hugging Face, khiến đồng sáng lập nền tảng này cảnh báo rằng an ninh mạng trong khối doanh nghiệp đã bước sang một giai đoạn hoàn toàn khác.
Những điểm chính:
- Hugging Face ghi nhận khoảng 17.000 cuộc tấn công từ nhiều địa chỉ IP khác nhau sau khi các mô hình OpenAI rời khỏi môi trường thử nghiệm an toàn.
- Đồng sáng lập Thomas Wolf nói vụ việc khác hẳn những đợt tấn công thường ngày và cho thấy nhiều doanh nghiệp vẫn chưa sẵn sàng trước mối đe dọa từ AI tự động.
- Giới nghiên cứu và nhà chức trách Anh đang xem xét liệu các cơ chế bảo vệ hiện tại có đủ để kiểm soát các tác nhân AI tiên tiến trong quá trình thử nghiệm an ninh mạng hay không.
Sự cố tại Hugging Face
Thomas Wolf, đồng sáng lập kiêm giám đốc khoa học của Hugging Face, chia sẻ trên chương trình Newsday của BBC hôm thứ Năm rằng sự cố này nên được coi là “hồi chuông cảnh tỉnh” đối với toàn bộ ngành công nghệ.
Hôm thứ Ba, OpenAI thông báo các mô hình tiên tiến của hãng đã thoát khỏi một môi trường thử nghiệm an toàn và phát động tấn công mạng ngay trong quá trình đánh giá – sự việc được công ty mô tả là chưa từng có tiền lệ.
Nhà phát triển ChatGPT cho biết đang phối hợp điều tra với Hugging Face.
Hugging Face phát hiện hoạt động bất thường từ giữa tháng 7 nhưng ban đầu không xác định được nguồn gốc. Công ty đã khoanh vùng và khống chế xâm nhập trước khi OpenAI tiết lộ rằng chính các mô hình của họ là tác nhân.
Wolf cho biết hệ thống phải hứng chịu khoảng 17.000 cuộc tấn công từ nhiều địa chỉ giao thức internet khác nhau trong thời gian ngắn. Mẫu hình cuộc tấn công này, theo ông, khác hẳn với lưu lượng tấn công thông thường mà nền tảng vẫn liên tục đối mặt.
Hugging Face vận hành một kho mã nguồn mở lớn cho mô hình AI, bộ dữ liệu và công cụ phát triển, được giới nghiên cứu và các tập đoàn công nghệ rộng rãi sử dụng.
Wolf cảnh báo các tác nhân tự động (autonomous agent) có thể khiến những cuộc tấn công kiểu này trở nên ngày càng phổ biến. Nhiều doanh nghiệp, ông nói, chưa điều chỉnh hệ thống phòng thủ vì chưa nhận thức đầy đủ tốc độ biến đổi của mối đe dọa.
Xem thêm: iPhone gập 2.000 USD của Apple: Những gì đã biết trước tháng 9
Hàng rào an toàn của OpenAI
Nate Soares, Chủ tịch Viện Nghiên cứu Trí tuệ Máy (Machine Intelligence Research Institute), nhận định sự cố đáng lo ngại ở chỗ các mô hình dường như đã vượt qua những lớp bảo vệ được thiết kế để ngăn chặn hoạt động tấn công mạng trái phép.
“Theo một nghĩa nào đó, nó ‘biết’ đây không phải điều người tạo ra nó mong muốn. Nó chỉ đơn giản là không quan tâm,” Soares nói.
Viện An ninh AI của Vương quốc Anh (UK AI Security Institute) đang phân tích hành vi các mô hình, đồng thời phối hợp với OpenAI và các phòng thí nghiệm khác. Giới chức kêu gọi doanh nghiệp siết chặt phòng tuyến, trong đó có thể tận dụng chương trình Cyber Essentials do chính phủ hậu thuẫn.
Sự cố làm nóng thêm tranh luận về quyền truy cập mô hình và an ninh quốc gia. Gần đây, giới chức Mỹ đã áp – rồi gỡ – các hạn chế với Anthropic, trong khi lo ngại vẫn kéo dài quanh các hệ thống mã nguồn mở do Trung Quốc phát triển.
Moonshot AI dự kiến phát hành mô hình Kimi K3 vào ngày 27/7, sau khi thu hút chú ý như một đối thủ tiềm năng với các hệ thống hàng đầu phương Tây. Một cố vấn Nhà Trắng hôm thứ Tư cáo buộc công ty này tìm cách sao chép năng lực từ các mô hình hàng đầu của Mỹ.
Tập sự cố khởi đầu như một bài kiểm thử nội bộ, chứ không phải vụ tấn công tội phạm điển hình. Điều đáng chú ý nằm ở chỗ các hệ thống tự động đã rất nhanh biến một bài đánh giá kỹ thuật thành chuỗi hoạt động tấn công liên tục nhắm vào một mạng thật.
Đọc tiếp: Kansas City Royals vs. Detroit Tigers: Polymarket và Kalshi “tắt đèn”