Google mengatakan pihaknya menggagalkan upaya sebuah grup peretas kriminal mempersenjatai celah zero-day yang dibuat dengan bantuan model AI, kasus pertama semacam ini yang tercatat.
Google Hentikan Bypass 2FA Buatan AI
Google Threat Intelligence Group, yang dikenal sebagai GTIG, mengungkap intervensi tersebut pada hari Senin dalam laporan terbaru AI Threat Tracker.
Para peneliti menemukan celah tersebut di dalam sebuah skrip Python yang dirancang untuk melewati autentikasi dua faktor pada sebuah alat administrasi sistem berbasis web, open-source, yang populer.
Google menolak menyebut nama vendor yang terdampak maupun aktor ancamannya.
GTIG mengatakan mereka bekerja dengan vendor untuk menambal celah tersebut dan memberi tahu penegak hukum sebelum eksploitasi massal bisa dimulai.
Tim itu menandai jejak khas penulisan oleh mesin dalam kode, termasuk skor keparahan CVSS hasil halusinasi, docstring edukatif, dan format Pythonik bak buku teks yang konsisten dengan data pelatihan model bahasa besar. Google menambahkan bahwa mereka sangat yakin sebuah model AI membantu penemuan dan pemanfaatan celah ini, meski tidak percaya Gemini milik mereka sendiri terlibat.
Also Read: Tom Lee Calls Crypto Spring As Bitmine Stakes $11.1B In ETH
Pakar Peringatkan Era Peretasan Berbasis AI Telah Tiba
John Hultquist, analis utama di GTIG, menyebut kasus ini sebagai bukti nyata dari ancaman yang telah lama diperingatkan.
"Ini sudah terjadi," kata Hultquist kepada wartawan. Era eksploitasi kerentanan yang didorong AI sudah dimulai, tambahnya, dengan kasus-kasus yang terlihat mengindikasikan jauh lebih banyak lagi di alam liar.
Analis keamanan mengatakan jenis celah sama pentingnya dengan alat yang digunakan untuk menemukannya.
Bug tersebut adalah kesalahan logika semantik, sebuah asumsi kepercayaan yang di-hardcode yang sulit dideteksi fuzzer dan pemindai statis tradisional, namun bisa ditalar oleh model frontier.
Google juga mendokumentasikan kelompok terkait negara yang memperluas penggunaan AI di seluruh rantai serangan. APT45 dari Korea Utara telah mengirim ribuan prompt berulang untuk menganalisis kerentanan secara rekursif, sementara aktor yang terkait China menggunakan jailbreak berbasis persona untuk mendorong Gemini meneliti celah firmware.
Daybreak dan Glasswing Pimpin Dorongan Pembela
Pada minggu yang sama ketika temuan Google dipublikasikan, OpenAI meluncurkan Daybreak, sebuah inisiatif keamanan siber yang memasangkan GPT-5.5 dan Codex Security untuk membantu pembela menemukan dan menambal celah.
Daybreak berjalan dengan sistem akses bertingkat. Pembela terverifikasi dapat menggunakan GPT-5.5 dengan Trusted Access for Cyber, sementara varian GPT-5.5-Cyber yang lebih permisif mencakup red teaming dan validasi terkontrol.
Sam Altman mengatakan OpenAI ingin bekerja dengan sebanyak mungkin perusahaan untuk terus mengamankan perangkat lunak mereka.
Daybreak memasuki pasar yang sudah dibentuk oleh Project Glasswing milik Anthropic, yang menggunakan Claude Mythos Preview untuk memindai basis kode mitra demi mencari celah serius. Apple, Microsoft, Google, Amazon, dan JPMorgan Chase telah bergabung. Program-program yang saling bersaing ini mencerminkan taruhan lebih luas bahwa model frontier dapat mengubah keseimbangan ke pihak pembela, bahkan ketika penyerang berpacu melakukan hal yang sama.
Read Next: Sui Rallies 37% As Nasdaq Firm Locks Up 2.7% Of Supply