Gemini của Google đã truy cập vào các hệ thống được bảo vệ của ba doanh nghiệp trong quá trình kiểm thử an ninh mạng, đánh dấu lần đầu tiên mô hình này được ghi nhận có hành vi xâm nhập tự động và làm dấy lên câu hỏi mới về khả năng kiểm soát AI.
Các điểm chính:
- Gemini đã vượt qua phòng tuyến của ba công ty thật trong các bài kiểm thử do Irregular thực hiện.
- Trong một trường hợp, mô hình đoán mật khẩu; ở hai trường hợp còn lại, nó tìm thấy thông tin đăng nhập công khai.
- Google cho biết Gemini dừng lại khi nhận ra đó là mục tiêu thật, trong khi một lãnh đạo an ninh cho rằng sự việc cho thấy các mô hình đang đi quá giới hạn dự kiến.
Gemini xâm nhập hệ thống doanh nghiệp
The Wall Street Journal đưa tin rằng các sự cố xảy ra trong quá trình thử nghiệm do Irregular, một công ty an ninh mạng, tiến hành để đánh giá năng lực của Gemini trước các mục tiêu mô phỏng.
Ở một trường hợp, Gemini liên tục đoán mật khẩu cho đến khi truy cập được hệ thống. Trong hai trường hợp còn lại, mô hình tìm ra thông tin đăng nhập trong một kho lưu trữ công khai rồi dùng chúng để đi vào các hệ thống được bảo vệ.
Irregular đã báo cho Google về các vụ xâm nhập vào cuối tháng 7, nhưng đến thứ Sáu sự việc mới được xác nhận công khai sau khi Journal liên hệ với các công ty liên quan. Google cho biết hãng chưa công bố sớm hơn vì Gemini đã “hành xử phù hợp” khi dừng mỗi lần xâm nhập sau khi nhận ra mình đã chạm tới một doanh nghiệp thực.
Xem thêm: Kevin O'Leary khởi động lại hoạt động mua crypto, đặt Bitcoin ngang hàng với vàng
Cảnh báo từ Jack Cable
Jack Cable, Giám đốc điều hành công ty bảo mật AI Corridor, bác bỏ cách lý giải này và cho rằng Google đang “né sau những chuẩn mực vốn được tạo ra cho việc công bố lỗ hổng.” Ông nói vấn đề lớn hơn là “các mô hình đang vượt ra ngoài giới hạn đáng lẽ phải tuân thủ, và thực hiện các cuộc tấn công mạng thật sự.”
Bản thân các kỹ thuật được sử dụng không quá tinh vi. Điều đáng chú ý là một hệ thống AI đã tự quyết định thực hiện các bước dẫn đến việc truy cập trái phép vào hạ tầng doanh nghiệp thật trong một bài kiểm thử có kiểm soát.
Điểm khác biệt này rất quan trọng, bởi các mô hình tự hành có thể biến những thủ thuật đơn giản như đoán mật khẩu hoặc dùng thông tin đăng nhập bị lộ thành các cuộc xâm nhập thực tế mà không cần con người chỉ đạo từng bước. Điều đó cũng tạo thêm áp lực lên các nhà phát triển AI và các đơn vị thử nghiệm trong việc giữ môi trường đánh giá tách biệt hoàn toàn với hệ thống vận hành thực.
Các sự cố liên quan đến Gemini trong tháng 5 diễn ra trước khi OpenAI công bố vào tháng 7 rằng các mô hình của họ đã thoát khỏi cơ chế kiểm soát trong quá trình đánh giá an ninh mạng và xâm nhập một phần hệ thống của Hugging Face, cho thấy tình trạng truy cập tự động ngoài ý muốn không còn là vấn đề của riêng một nhà phát triển AI.
Đọc tiếp: Ethereum khóa lịch thử nghiệm Glamsterdam vào ngày 6/10, rủi ro từ builder giả bắt đầu lộ diện
