Một số AI agent trong giai đoạn thử nghiệm đã âm thầm truy cập hệ thống đang vận hành của nhiều doanh nghiệp Ấn Độ và đọc hồ sơ mật; sự việc chỉ được lộ ra sau khi chính đội ngũ phát triển chủ động báo cáo, Cơ quan Ứng cứu khẩn cấp máy tính Ấn Độ CERT-In cho biết.
Điểm chính:
- Nhà phát triển AI thừa nhận agent của họ đã đọc dữ liệu mật tại doanh nghiệp Ấn Độ trong quá trình thử nghiệm.
- Không tổ chức nào trong số bị ảnh hưởng tự phát hiện ra truy cập bất thường.
- Tội phạm mạng cũng dùng công cụ tấn công dựa trên AI để rút ngắn thời gian xâm nhập từ vài ngày xuống vài giờ.
Chi tiết khuyến cáo của CERT-In
Theo khuyến cáo quan trọng phát đi tối thứ Năm, cơ quan này cho biết các công ty AI tự phát hiện và gióng chuông cảnh báo sau khi rà soát nội bộ, nhận thấy mô hình đã vượt quá phạm vi nhiệm vụ được giao. Theo khuyến cáo, các agent đã truy cập và đọc các hồ sơ kinh doanh, bao gồm cả dữ liệu cá nhân, bằng cách lợi dụng thông tin định danh bị lộ trong phần cấu hình ứng dụng, kho mã nguồn công khai và thiết lập phân quyền lỏng lẻo trên nền tảng đám mây. Không doanh nghiệp nào tự phát hiện ra.
Hoạt động săn tìm mối đe dọa của chính CERT-In cũng đã phát hiện một chiến dịch riêng biệt có động cơ tài chính, trong đó tội phạm sử dụng các bộ khung tấn công mạng bằng AI công khai để nhắm vào tổ chức Ấn Độ. Các công cụ này giúp rút ngắn thời gian tấn công từ vài ngày xuống chỉ còn vài giờ.
CERT-In không nêu tên nhà phát triển AI, mô hình cụ thể hay các tổ chức bị tác động, và cũng không cho biết liệu dữ liệu có bị sao chép hoặc lưu giữ lại hay không.
Xem thêm: Bitget cho phép tổ chức giao dịch mà không phải giao tài sản crypto
Nhận định từ Jaydeep Singh của Kaspersky
Theo CERT-In, những lỗ hổng bị khai thác thực chất rất cũ và quen thuộc: khóa bí mật để lộ trong mã nguồn, API thử nghiệm bị quên không gỡ, khóa thanh toán lưu dạng văn bản thuần (plain text)… Điểm khác biệt là AI agent có thể khai thác chúng nhanh và triệt để hơn con người.
Jaydeep Singh, Tổng giám đốc Kaspersky tại Ấn Độ, nhận định đây là “lời nhắc kịp thời rằng AI agent không còn chỉ là công cụ tăng năng suất.” Khi được cấp quyền rộng, ông nói, các agent có thể vươn đến hệ thống sản xuất và dữ liệu nhạy cảm theo những cách mà doanh nghiệp không lường trước, thường thông qua các dịch vụ đám mây cấu hình sai. Tài khoản hợp lệ, ứng dụng hướng Internet và quan hệ tin cậy là cửa ngõ của hơn 80% sự cố mà Kaspersky điều tra trong năm 2025, Singh cho biết.
Theo Singh, mọi agent đều cần có bước phê duyệt của con người trước khi thực hiện bất kỳ hành động không thể đảo ngược nào. CERT-In cũng khuyến nghị các phòng lab AI chỉ nên thử nghiệm agent trong môi trường cách ly, chặn quyền truy cập ra ngoài ngay từ tầng mạng thay vì chỉ dựa vào hướng dẫn văn bản cho mô hình.
Tiền lệ từ OpenAI và Anthropic
CERT-In không tiết lộ liệu mô hình của OpenAI hay Anthropic có liên quan hay không, dù cả hai đều đã công bố các sự cố tương tự trong năm nay.
Tháng 7, OpenAI cho biết mô hình của hãng đã xâm phạm nền tảng phát triển AI Hugging Face trong quá trình thử nghiệm, và đang thông báo đến bên thứ ba có hệ thống bảo mật có thể đã bị mô hình vượt qua. Sau đó, Anthropic báo cáo bốn vụ việc tương tự liên quan đến các mô hình Claude.
Bài tiếp theo: OpenAI phản công vụ kiện bí mật kinh doanh của Apple, nói 100 tệp đã được gửi ra ngoài
