Các nhà nghiên cứu an ninh mạng từng dùng Claude của Anthropic để đột nhập vào OpenAI chỉ trong chưa đầy 72 giờ nay cảnh báo rằng ngành AI vẫn chưa sẵn sàng trước những mối đe dọa do chính công nghệ của mình tạo ra.
Những điểm chính:
- Một nhóm ba người đã kết hợp hai lỗ hổng để chiếm quyền tài khoản nhân viên OpenAI trong tháng 7.
- OpenAI khắc phục phía của mình trong khoảng 14 giờ và chi trả tiền thưởng 6.500 USD.
- Các nhà nghiên cứu cho rằng công cụ AI đã rút ngắn mạnh thời gian và kỹ năng cần để biến lỗi phần mềm thành vũ khí.
Vụ xâm nhập OpenAI của Hacktron
Vụ việc bắt đầu vào ngày 25/7, khi các nhà nghiên cứu tại công ty an ninh mạng Hacktron xâm nhập được quyền thực thi mã từ xa trên diễn đàn cộng đồng công khai của OpenAI, vốn chạy trên phần mềm Discourse. Họ tải lên một tệp ảnh được chỉnh sửa để khai thác một thư viện giải mã đã lỗi thời nhưng chưa được vá trên máy chủ. Sau đó, một lỗ hổng riêng trong hệ thống đăng nhập một lần của OpenAI cho phép họ chiếm quyền các tài khoản ChatGPT và Codex thuộc về nhân viên công ty.
Bộ ba Harsh Jaiswal, Mohan Pedhapati và Rahul Maini đã dùng tài khoản Codex của một nhân viên để tạo một pull request vô hại trong kho mã nội bộ của OpenAI, qua đó chứng minh đã có quyền truy cập mà không cần đọc bất kỳ đoạn mã nào. Họ dừng toàn bộ thử nghiệm tiếp theo tại thời điểm đó và báo cáo các lỗ hổng trong cùng ngày.
Nhóm nghiên cứu xây dựng được mã khai thác hoàn chỉnh nhờ Claude Opus 5, sau khi một phiên bản trước đó của mô hình này thất bại qua nhiều lần thử. OpenAI đã khắc phục phần lỗi thuộc hệ thống của mình sau khoảng 14 giờ và chi trả khoản thưởng 6.500 USD, đồng thời lưu ý rằng khoản thưởng này chỉ áp dụng cho lỗi phía OpenAI chứ không phải vụ tấn công diễn đàn. Người phát ngôn của công ty xác nhận vụ việc và cảm ơn các nhà nghiên cứu vì đã chủ động báo cáo.
Đọc thêm: Dự báo Nvidia đến năm 2030 hé lộ khoảng chênh từ 727 USD đến 28.560 USD
Cảnh báo từ Mohan Pedhapati
Giới chuyên gia an ninh cho rằng bài học từ sự cố này sâu hơn nhiều so với một diễn đàn chưa được vá. Họ cảnh báo rằng mức đầu tư của các nhà phát triển AI cho bảo vệ hệ thống đang thấp hơn rất nhiều so với sức mạnh mà họ gán cho mô hình của mình.
Pedhapati cho biết việc OpenAI phụ thuộc vào các phần mềm doanh nghiệp thông thường, trình duyệt phổ thông và nhiều ứng dụng khác có thể truy cập từ internet công khai đã làm mở rộng bề mặt tấn công. “Công việc từng mất vài tháng giờ có thể chỉ còn vài ngày,” ông viết trên X. Nhóm này cho biết một chiến dịch rộng hơn nhằm vào các tập đoàn lớn khác đã kéo dài hai tháng với chi phí dùng mô hình chưa đến 3.000 USD, và việc điều chỉnh khai thác cho từng mục tiêu mới chỉ mất một đến hai ngày.
Greg Linares, nhà nghiên cứu tại công ty xác thực Persona, cho rằng các lỗ hổng này hoàn toàn có thể tạo cho tin tặc cấp nhà nước một cửa ngõ vào OpenAI. Tuy nhiên, đến nay chưa có bằng chứng cho thấy các hacker khác đã phát hiện hoặc khai thác cùng cặp lỗi này.
Việc công bố diễn ra trong bối cảnh công ty đã trải qua một giai đoạn đầy sóng gió. Tháng 7, các mô hình của OpenAI đã thoát khỏi môi trường thử nghiệm và tự động tấn công máy chủ của nền tảng AI Hugging Face, được nhiều bên mô tả là vụ tấn công mạng tự trị đầu tiên do một tác nhân AI thực hiện. Tuần trước, công ty cũng công bố thêm sáu sự cố nữa, trong đó các mô hình của họ che giấu sai sót, tìm cách tiếp cận thông tin xác thực không được cấp hoặc chuyển tệp lên internet công khai.
Đọc tiếp: Google Gemini tấn công 3 công ty trong những vụ xâm nhập tự trị đầu tiên được ghi nhận
