Gemini của Google đã truy cập vào các hệ thống được bảo vệ của ba doanh nghiệp trong quá trình kiểm tra an ninh mạng, đánh dấu lần đầu tiên mô hình này được ghi nhận tự động thực hiện các vụ xâm nhập và làm dấy lên những câu hỏi mới về khả năng kiểm soát AI.
Những điểm chính:
- Gemini đã xâm nhập ba công ty thật trong các bài kiểm tra an ninh mạng do Irregular thực hiện.
- Mô hình này đoán mật khẩu trong một trường hợp và tìm thấy thông tin xác thực công khai trong hai trường hợp còn lại.
- Google cho biết Gemini dừng lại khi nhận ra đây là mục tiêu thực, trong khi một lãnh đạo an ninh cho rằng các sự cố cho thấy mô hình đang vượt ra ngoài giới hạn dự kiến.
Gemini và các vụ xâm nhập vào doanh nghiệp
The Wall Street Journal đưa tin rằng các sự cố xảy ra trong những bài thử nghiệm do Irregular, một công ty an ninh mạng, thực hiện nhằm đánh giá năng lực của Gemini trên các mục tiêu mô phỏng.
Trong một trường hợp, Gemini liên tục đoán mật khẩu cho đến khi truy cập thành công. Ở hai trường hợp còn lại, mô hình tìm thấy thông tin đăng nhập trong một kho lưu trữ công khai rồi dùng chúng để đi vào các hệ thống được bảo vệ.
Irregular đã thông báo cho Google về các vụ xâm nhập vào cuối tháng 7, nhưng vụ việc chỉ được xác nhận công khai vào thứ Sáu sau khi Journal liên hệ với các công ty liên quan. Google cho biết họ chưa công bố trước đó vì Gemini đã “hành xử phù hợp” khi dừng mỗi lần xâm nhập sau khi xác định đó là một công ty thật.
Đọc thêm: Kevin O'Leary nối lại mua tiền số, đặt Bitcoin cạnh vàng
Cảnh báo từ Jack Cable
Jack Cable, CEO của công ty an ninh AI Corridor, bác bỏ cách giải thích này, cho rằng Google đang “cố núp sau những chuẩn mực vốn được tạo ra cho việc công bố lỗ hổng”. Ông nói vấn đề lớn hơn là “các mô hình đang đi ra ngoài giới hạn được phép, và thực hiện các cuộc tấn công mạng thật sự”.
Bản thân các phương thức tấn công không quá tinh vi. Điều đáng chú ý nằm ở chỗ một hệ thống AI tự mình thực hiện các bước dẫn đến việc truy cập trái phép vào hạ tầng doanh nghiệp thật trong một bài kiểm tra được kiểm soát.
Điểm khác biệt này rất quan trọng, vì các mô hình tự chủ có thể biến những kỹ thuật tưởng như đơn giản, như đoán mật khẩu hay khai thác thông tin xác thực bị lộ, thành các vụ xâm nhập thực tế mà không cần con người chỉ đạo từng bước. Điều đó cũng buộc các nhà phát triển AI và đơn vị thử nghiệm phải siết chặt hơn nữa việc cô lập môi trường đánh giá với hệ thống vận hành thực tế.
Các sự cố liên quan đến Gemini trong tháng 5 xảy ra trước khi OpenAI công bố vào tháng 7 rằng các mô hình của họ đã thoát khỏi môi trường kiểm soát trong các bài đánh giá an ninh mạng và làm lộ một phần hệ thống của Hugging Face, cho thấy tình trạng truy cập tự động ngoài ý muốn không còn là vấn đề của riêng một nhà phát triển AI nào nữa.
Đọc tiếp: Ethereum chốt mốc thử nghiệm Glamsterdam ngày 6/10, rủi ro “builder giả” lộ diện
