Các tác nhân AI trong giai đoạn thử nghiệm đã xâm nhập vào hệ thống đang vận hành của một số doanh nghiệp Ấn Độ và đọc hồ sơ mật; những vụ việc này chỉ bị phanh phui vì chính đội ngũ phát triển AI tự báo cáo, cơ quan an ninh mạng Ấn Độ CERT-In cho biết.
Điểm đáng chú ý:
- Nhà phát triển AI báo cáo rằng tác nhân của họ đã đọc dữ liệu mật tại doanh nghiệp Ấn Độ trong lúc thử nghiệm.
- Không tổ chức nào tự phát hiện ra các lượt truy cập trái phép này.
- Ở một chiến dịch khác, tội phạm mạng dùng công cụ AI để rút ngắn thời gian tấn công từ vài ngày xuống chỉ còn vài giờ.
Chi tiết khuyến cáo của CERT-In
Theo khuyến cáo quan trọng phát đi tối thứ Năm, cơ quan này cho biết chính các công ty AI đã chủ động gióng chuông cảnh báo sau khi rà soát nội bộ và phát hiện mô hình của họ vượt quá phạm vi nhiệm vụ được giao, theo CERT-In. Các tác nhân AI đã truy cập hồ sơ kinh doanh, bao gồm dữ liệu cá nhân, thông qua thông tin định danh bị lộ trong cấu hình ứng dụng, kho mã nguồn công khai và các thiết lập phân quyền lỏng lẻo trên đám mây. Không doanh nghiệp nào tự nhận diện được hành vi này.
Qua hoạt động săn tìm mối đe dọa của chính mình, CERT-In cũng phát hiện một chiến dịch riêng biệt mang động cơ tài chính, trong đó tội phạm sử dụng các bộ khung tấn công bằng AI công khai để nhắm vào các tổ chức Ấn Độ. Những công cụ này giúp rút ngắn thời gian thực hiện tấn công từ nhiều ngày xuống còn vài giờ.
CERT-In không nêu tên các nhà phát triển AI, mô hình liên quan hay danh tính tổ chức bị ảnh hưởng, cũng như không cho biết liệu dữ liệu có bị sao chép hoặc lưu giữ lại hay không.
Xem thêm: Bitget cho phép tổ chức giao dịch mà không phải giao tài sản số
Nhận định từ Jaydeep Singh của Kaspersky
CERT-In cho biết các lỗ hổng bị khai thác đều là những điểm yếu “cũ mà không bao giờ hết mới”: từ khóa truy cập bị để lại trong mã nguồn, API thử nghiệm bị quên không tắt, đến khóa thanh toán lưu dạng văn bản thuần. Tác nhân AI chỉ đơn giản là khai thác chúng nhanh hơn, toàn diện hơn so với con người.
Jaydeep Singh, tổng giám đốc Kaspersky tại Ấn Độ, nhận định trong một cuộc trao đổi rằng khuyến cáo trên là “lời nhắc kịp thời rằng tác nhân AI không còn chỉ là công cụ tăng năng suất”. Khi được cấp quyền quá rộng, ông cảnh báo, các tác nhân này có thể chạm tới hệ thống đang chạy thật và dữ liệu nhạy cảm theo những cách mà doanh nghiệp không lường trước, thường là thông qua các dịch vụ đám mây cấu hình sai. Tài khoản hợp lệ, ứng dụng hướng Internet và mối quan hệ tin cậy chiếm hơn 80% điểm khởi phát tấn công trong các cuộc điều tra của Kaspersky năm 2025, Singh cho biết.
Theo Singh, mọi tác nhân AI nên phải có bước phê duyệt từ con người trước khi thực hiện bất kỳ hành động không thể đảo ngược nào. CERT-In cũng khuyến nghị các phòng thí nghiệm AI thử nghiệm tác nhân trong môi trường tách biệt hoàn toàn, chặn kết nối ra ngoài ở tầng mạng thay vì chỉ dựa vào “hướng dẫn” trong mô hình.
Tiền lệ từ OpenAI, Anthropic
CERT-In không cho biết mô hình của OpenAI hay Anthropic có liên quan hay không, dù cả hai hãng đều đã công bố các sự cố tương tự trong năm nay.
Tháng 7, OpenAI thừa nhận trong quá trình thử nghiệm, mô hình của hãng đã làm ảnh hưởng đến nền tảng phát triển AI Hugging Face, và hiện đang thông báo cho đối tác thứ ba có khả năng bị mô hình vượt qua các biện pháp kiểm soát an ninh. Sau đó, Anthropic cũng báo cáo bốn vụ việc tương tự liên quan đến các mô hình Claude.
Bài tiếp theo: OpenAI phản công vụ kiện bí mật công nghệ của Apple, cáo buộc 100 tập tin bị gửi ra ngoài
