Google cho biết họ đã ngăn chặn nỗ lực của một nhóm tin tặc tội phạm muốn vũ khí hóa một lỗ hổng zero-day được xây dựng với sự trợ giúp của mô hình AI, trường hợp đầu tiên như vậy từng được ghi nhận.
Google chặn vụ vượt 2FA do AI tạo ra
Google Threat Intelligence Group (GTIG) đã công bố việc can thiệp hôm thứ Hai trong báo cáo AI Threat Tracker mới nhất.
Các nhà nghiên cứu phát hiện lỗ hổng bên trong một script Python được thiết kế để vượt qua xác thực hai yếu tố trên một công cụ quản trị hệ thống mã nguồn mở, chạy trên web, khá phổ biến.
Google từ chối nêu tên nhà cung cấp bị ảnh hưởng hoặc tác nhân đe dọa.
GTIG cho biết họ đã phối hợp với nhà cung cấp để vá lỗ hổng và thông báo cho cơ quan thực thi pháp luật trước khi có bất kỳ khai thác trên diện rộng nào có thể bắt đầu.
Nhóm đã phát hiện những dấu vết điển hình của mã do máy tạo ra, bao gồm một điểm số CVSS “ảo tưởng”, các docstring mang tính giáo trình và định dạng Python “sách giáo khoa” phù hợp với dữ liệu huấn luyện của mô hình ngôn ngữ lớn. Google nói thêm rằng họ rất tin tưởng một mô hình AI đã hỗ trợ việc phát hiện và vũ khí hóa lỗ hổng, dù không cho rằng Gemini của chính họ có liên quan.
Đọc thêm: Tom Lee Calls Crypto Spring As Bitmine Stakes $11.1B In ETH
Chuyên gia cảnh báo kỷ nguyên hack bằng AI đã đến
John Hultquist, nhà phân tích trưởng tại GTIG, gọi vụ việc là bằng chứng hữu hình cho một mối đe dọa đã được cảnh báo từ lâu.
“Nó đã ở đây,” Hultquist nói với phóng viên. Kỷ nguyên khai thác lỗ hổng do AI dẫn dắt đã bắt đầu, ông bổ sung, với những trường hợp có thể quan sát được cho thấy còn rất nhiều vụ ngoài kia.
Các nhà phân tích an ninh cho rằng kiểu lỗ hổng cũng quan trọng không kém công cụ được dùng để tìm ra nó.
Lỗi là một sai sót logic ngữ nghĩa, một giả định tin cậy được mã hóa cứng mà các fuzzer và bộ quét tĩnh truyền thống khó phát hiện, nhưng các mô hình tiên phong có thể suy luận qua được.
Google cũng ghi nhận các nhóm có liên hệ nhà nước đang mở rộng việc dùng AI xuyên suốt chuỗi tấn công. APT45 của Triều Tiên đã gửi hàng nghìn prompt lặp lại để phân tích đệ quy các lỗ hổng, trong khi một tác nhân liên kết Trung Quốc dùng một jailbreak dựa trên persona để thúc đẩy Gemini nghiên cứu lỗi firmware.
Daybreak và Glasswing dẫn đầu làn sóng phòng thủ
Cùng tuần với việc phát hiện của Google được công bố, OpenAI ra mắt Daybreak, một sáng kiến an ninh mạng kết hợp GPT-5.5 và Codex Security để giúp bên phòng thủ tìm và vá lỗ hổng.
Daybreak vận hành theo hệ thống phân tầng truy cập. Các đơn vị phòng thủ đã xác minh có thể dùng GPT-5.5 với Trusted Access for Cyber, trong khi biến thể GPT-5.5-Cyber “dễ dãi” hơn được dùng cho red team và kiểm thử có kiểm soát.
Sam Altman nói OpenAI muốn hợp tác với càng nhiều công ty càng tốt để liên tục bảo mật phần mềm của họ.
Daybreak bước vào một thị trường vốn đã được định hình bởi Project Glasswing của Anthropic sử dụng Claude Mythos Preview để quét mã nguồn đối tác tìm các lỗ hổng nghiêm trọng. Apple, Microsoft, Google, Amazon và JPMorgan Chase đã tham gia. Các chương trình cạnh tranh này phản ánh một canh bạc rộng lớn hơn rằng các mô hình tiên phong có thể xoay chuyển cán cân về phía bên phòng thủ, ngay cả khi kẻ tấn công cũng chạy đua làm điều tương tự.
Đọc tiếp: Sui Rallies 37% As Nasdaq Firm Locks Up 2.7% Of Supply