Google mengatakan telah menggagalkan upaya sebuah kelompok peretas kriminal untuk mempersenjatai celah zero-day yang dibangun dengan bantuan model AI, kasus pertama semacam ini yang pernah tercatat.
Google Hentikan Bypass 2FA Buatan AI
Google Threat Intelligence Group, yang dikenal sebagai GTIG, mengungkap intervensi tersebut pada hari Senin dalam laporan AI Threat Tracker terbarunya.
Peneliti menemukan celah tersebut di dalam sebuah skrip Python yang dirancang untuk melewati autentikasi dua faktor pada sebuah alat administrasi sistem berbasis web, open-source, yang populer.
Google menolak menyebutkan nama vendor yang terdampak maupun pelaku ancaman tersebut.
GTIG mengatakan mereka bekerja sama dengan vendor untuk menambal celah itu dan memberi tahu penegak hukum sebelum eksploitasi massal sempat dimulai.
Tim tersebut menandai jejak khas penulisan mesin dalam kode, termasuk skor keparahan CVSS yang berhalusinasi, docstring edukasional, dan format Pythonic bak buku teks yang konsisten dengan data pelatihan model bahasa besar. Google menambahkan bahwa mereka sangat yakin sebuah model AI membantu penemuan dan pemersenjataan celah itu, meski tidak percaya Gemini milik mereka sendiri terlibat.
Baca Juga: Tom Lee Calls Crypto Spring As Bitmine Stakes $11.1B In ETH
Pakar Peringatkan Era Peretasan Berbasis AI Telah Tiba
John Hultquist, analis utama di GTIG, menyebut kasus ini sebagai bukti nyata dari ancaman yang telah lama diperingatkan.
"Ini sudah di sini," kata Hultquist kepada wartawan. Era eksploitasi kerentanan yang didorong AI sudah dimulai, tambahnya, dengan kasus-kasus yang terlihat mengisyaratkan masih banyak lagi di alam liar.
Analis keamanan mengatakan tipe celah sama pentingnya dengan alat yang digunakan untuk menemukannya.
Bug tersebut adalah kesalahan logika semantik, asumsi kepercayaan yang ditanamkan secara hardcode yang sulit dideteksi oleh fuzzer dan pemindai statis tradisional, tetapi dapat diuraikan oleh model frontier.
Google juga mendokumentasikan kelompok berafiliasi negara yang memperluas penggunaan AI di sepanjang rantai serangan. APT45 dari Korea Utara telah mengirim ribuan prompt berulang untuk menganalisis kerentanan secara rekursif, sementara aktor yang terkait Tiongkok menggunakan jailbreak berbasis persona untuk mendorong Gemini meneliti celah firmware.
Daybreak dan Glasswing Pimpin Dorongan Pembela
Pada minggu yang sama ketika temuan Google dipublikasikan, OpenAI meluncurkan Daybreak, sebuah inisiatif keamanan siber yang memasangkan GPT-5.5 dan Codex Security untuk membantu pembela menemukan dan menambal celah.
Daybreak berjalan dengan sistem akses bertingkat. Pembela terverifikasi dapat menggunakan GPT-5.5 dengan Trusted Access for Cyber, sementara varian GPT-5.5-Cyber yang lebih permisif mencakup red teaming dan validasi terkontrol.
Sam Altman mengatakan OpenAI ingin bekerja sama dengan sebanyak mungkin perusahaan untuk terus mengamankan perangkat lunak mereka.
Daybreak memasuki pasar yang sudah dibentuk oleh Project Glasswing milik Anthropic, yang menggunakan Claude Mythos Preview untuk memindai basis kode mitra demi menemukan celah serius. Apple, Microsoft, Google, Amazon, dan JPMorgan Chase telah bergabung. Program-program yang saling bersaing ini mencerminkan taruhan lebih luas bahwa model frontier dapat menggeser keseimbangan ke pihak para pembela, bahkan ketika para penyerang berpacu melakukan hal yang sama.
Baca Berikutnya: Sui Rallies 37% As Nasdaq Firm Locks Up 2.7% Of Supply