Google cho biết họ đã phá vỡ nỗ lực của một nhóm tin tặc nhằm vũ khí hóa một lỗ hổng zero-day được xây dựng với sự hỗ trợ của mô hình AI, trường hợp đầu tiên được ghi nhận.
Google chặn vụ vượt 2FA do AI tạo ra
Google Threat Intelligence Group (GTIG) đã công bố vụ can thiệp hôm thứ Hai trong báo cáo AI Threat Tracker mới nhất.
Các nhà nghiên cứu phát hiện lỗ hổng bên trong một script Python được thiết kế để vượt qua xác thực hai yếu tố trên một công cụ quản trị hệ thống mã nguồn mở, dựa trên web, khá phổ biến.
Google từ chối nêu tên nhà cung cấp bị ảnh hưởng cũng như tác nhân đe dọa.
GTIG cho biết họ đã phối hợp với nhà cung cấp để vá lỗ hổng và thông báo cho cơ quan thực thi pháp luật trước khi có thể xảy ra khai thác trên diện rộng.
Nhóm nhận diện được các dấu vết điển hình của mã do máy tạo, bao gồm một điểm số mức độ nghiêm trọng CVSS bị “ảo tưởng”, các docstring mang tính giáo trình, và định dạng Python chuẩn sách giáo khoa phù hợp với dữ liệu huấn luyện của mô hình ngôn ngữ lớn. Google nói thêm rằng họ có mức độ tin cậy cao rằng một mô hình AI đã hỗ trợ phát hiện và vũ khí hóa lỗ hổng, dù không tin rằng Gemini của chính họ có liên quan.
Đọc thêm: Tom Lee Calls Crypto Spring As Bitmine Stakes $11.1B In ETH
Chuyên gia cảnh báo kỷ nguyên hack bằng AI đã đến
John Hultquist, nhà phân tích trưởng tại GTIG, gọi vụ việc là bằng chứng hữu hình cho một mối đe dọa đã được cảnh báo từ lâu.
“Nó đã ở đây rồi,” Hultquist nói với báo giới. Kỷ nguyên khai thác lỗ hổng do AI dẫn dắt đã bắt đầu, ông nói thêm, với những trường hợp có thể nhìn thấy chỉ là phần nổi của tảng băng.
Các nhà phân tích bảo mật cho rằng loại lỗ hổng quan trọng không kém công cụ được dùng để tìm ra nó.
Lỗi này là một sai sót logic ngữ nghĩa, một giả định tin cậy được mã cứng mà các fuzzer truyền thống và công cụ quét tĩnh khó phát hiện, nhưng các mô hình tiên tiến có thể suy luận được.
Google cũng ghi nhận các nhóm có liên hệ nhà nước đang mở rộng việc dùng AI trên toàn chuỗi tấn công. APT45 của Triều Tiên đã gửi hàng nghìn prompt lặp lại để phân tích đệ quy các lỗ hổng, trong khi một tác nhân liên quan đến Trung Quốc dùng kiểu jailbreak dựa trên persona để ép Gemini nghiên cứu lỗi firmware.
Daybreak và Glasswing dẫn đầu nỗ lực phòng thủ
Cùng tuần với khi phát hiện của Google được công bố, OpenAI ra mắt Daybreak, một sáng kiến an ninh mạng kết hợp GPT-5.5 và Codex Security để giúp đội ngũ phòng thủ tìm và vá lỗ hổng.
Daybreak hoạt động theo hệ thống truy cập phân tầng. Những người phòng thủ đã xác minh có thể dùng GPT-5.5 với Trusted Access for Cyber, trong khi biến thể GPT-5.5-Cyber “thoáng” hơn được dùng cho red teaming và kiểm thử có kiểm soát.
Sam Altman nói OpenAI muốn hợp tác với càng nhiều công ty càng tốt để liên tục bảo vệ phần mềm của họ.
Daybreak bước vào một thị trường đã được định hình bởi Project Glasswing của Anthropic sử dụng Claude Mythos Preview để quét mã nguồn đối tác tìm các lỗi nghiêm trọng. Apple, Microsoft, Google, Amazon và JPMorgan Chase đã tham gia. Các chương trình cạnh tranh này phản ánh một cược lớn rằng các mô hình tiên phong có thể xoay chuyển cán cân về phía người phòng thủ, ngay cả khi kẻ tấn công cũng chạy đua làm điều tương tự.
Đọc tiếp: Sui Rallies 37% As Nasdaq Firm Locks Up 2.7% Of Supply