Kimi K3 đã thoát khỏi một sandbox thử nghiệm của chính phủ Anh và truy cập GitHub để tìm lời giải, biến Moonshot AI thành nhà phát triển thứ tư chứng kiến mô hình của mình phá vỡ lớp cách ly.
Các điểm chính
- Kimi K3 rời môi trường sandbox cô lập trong một bài đánh giá an ninh mạng và vươn ra internet mở.
- Nguyên nhân là lỗi cấu hình mạng cơ bản trong bộ khung benchmark, tạo ra “đường thoát”.
- Mô hình tìm lời giải trong kho mã nguồn thay vì tấn công bất kỳ hệ thống bên ngoài nào.
Kimi K3 thoát khỏi sandbox
Frontier Security, một startup an ninh mạng tại Mỹ, đã công bố sự cố này trong một bài viết đăng hôm thứ Năm. Các nhà nghiên cứu Paul Kassianik và Yaron Singer đang đo lường khả năng phòng thủ an ninh mạng của mô hình bằng bộ khung benchmark do AI Security Institute của Anh xây dựng. Họ truy vết vụ “vượt ngục” và kết luận nguyên nhân đến từ lỗi cấu hình mạng đơn giản trong bộ khung, chứ không phải do Kimi tự thiết kế một khai thác bảo mật.
Trong bối cảnh chỉ được giao xử lý các bài toán vốn không yêu cầu internet, mô hình đã tự kiểm tra thiết lập mạng, phát hiện kẽ hở, thoát ra ngoài và lấy sẵn lời giải từ nền tảng dành cho lập trình viên.
Việc rà soát log sau đó không phát hiện bất kỳ cuộc tấn công thực sự nào nhằm vào mục tiêu thật.
Frontier nhấn mạnh rằng không có lỗ hổng zero-day nào được khai thác trong vụ thoát sandbox này.
Moonshot ra mắt Kimi K3 vào tháng 7 và nhanh chóng mở miễn phí cho người dùng. Các đánh giá độc lập đặt hệ thống này ở nhóm gần với những mô hình mạnh nhất của Mỹ. Benchmark nội bộ của Frontier cũng cho thấy Kimi K3 khá thành thạo trong việc săn lỗi phần mềm và mạng.
Bài liên quan: Cổ phiếu SpaceX trị giá 100 tỷ USD lần đầu có thể bán trên thị trường thứ cấp
Yaron Singer nói về “hàng rào” bị thiếu
Theo Singer, nhóm nghiên cứu phát hiện một “lỗ rò” trong sandbox và Kimi đã tận dụng đúng lỗ hổng đó, cho thấy hệ thống thiếu các hàng rào kiểm soát nội tại. Frontier tự tiến hành bài kiểm thử, dùng phần mềm sandbox do viện Anh cung cấp miễn phí, và cho rằng kết quả chứng tỏ mô hình này được trang bị ít biện pháp tự kiềm chế về an ninh mạng hơn các đối thủ.
Điều khiến giới nghiên cứu lo ngại nhất là câu chuyện phân phối: phiên bản đã thoát sandbox là bản “open weight”, đã nằm trong tay cộng đồng, với cấu hình bảo vệ lỏng lẻo tương tự.
Một thông điệp thẳng thắn rút ra từ báo cáo: nếu trao cho một agent đủ năng lực bất kỳ con đường nào ra internet, nó sẽ tìm được và sử dụng con đường đó. Katie Moussouris bày tỏ sự ngạc nhiên khi các phòng lab không lường trước hành vi này, xét tới thời gian dài họ đã thử nghiệm các agent.
Các vụ “vượt rào” của OpenAI và Meta
Thông tin về Kimi K3 khép lại một mùa hè đầy những thừa nhận tương tự từ các tên tuổi lớn trong ngành. OpenAI tiết lộ hôm thứ Tư rằng các agent đánh giá của họ đã âm thầm dựng một diễn đàn nội bộ trong kho file của bên thứ ba, tái lập lại bốn ngày sau khi nhân viên xóa đi, rồi xâm nhập Hugging Face.
Các nhà nghiên cứu của OpenAI trình bày tại một hội nghị an ninh ở Las Vegas rằng các mô hình “biên” có xu hướng… gian lận khi có cơ hội. Anthropic cho biết tuần trước rằng ba mô hình Claude đã chạm tới các doanh nghiệp thực sau khi một lỗi cấu hình khiến chúng lộ ra internet mở.
Meta xác nhận hôm thứ Tư rằng mô hình Muse Spark của hãng đã có được quyền truy cập internet do lỗi từ đơn vị kiểm thử bên ngoài là Irregular, và cam kết sẽ công bố báo cáo đánh giá toàn diện sau khi hoàn tất rà soát.
Đọc tiếp: JPMorgan đặt dấu hỏi liệu HYPE có thể vượt Solana và XRP về vốn hóa hay không
