Google, bir suçlu hacker grubunun bir yapay zekâ modelinin yardımıyla geliştirilen bir sıfırıncı gün açığını silahlaştırma girişimini bozduğunu söyledi; bu, kayıtlara geçen ilk vaka olarak öne çıkıyor.
Google, Yapay Zekâ Eseri 2FA Atlatmayı Durdurdu
Google Threat Intelligence Group (GTIG), müdahaleyi son AI Threat Tracker raporunda Pazartesi günü disclosed.
Araştırmacılar, popüler, açık kaynaklı, web tabanlı bir sistem yönetim aracında iki faktörlü kimlik doğrulamayı atlatmak üzere tasarlanmış bir Python betiğinde açığı tespit etti.
Google, etkilenmiş satıcıyı veya tehdit aktörünü adlandırmayı reddetti.
GTIG, satıcıyla birlikte açığı yamalamak için worked yaptığını ve yaygın bir istismar başlamadan önce kolluk kuvvetlerini bilgilendirdiğini belirtti.
Ekip, kodda halüsinasyon ürünü bir CVSS şiddet puanı, eğitici docstring’ler ve büyük dil modeli eğitim verileriyle uyumlu ders kitabı tarzı Pythonik format gibi makine yazarlığına işaret eden izler saptadı. Google, bir yapay zekâ modelinin keşif ve silahlaştırma sürecine yardım ettiğine dair yüksek güvene sahip olduğunu, ancak bu süreçte kendi Gemini modelinin yer aldığını düşünmediğini ekledi.
Also Read: Tom Lee Calls Crypto Spring As Bitmine Stakes $11.1B In ETH
Uzmanlar: Yapay Zekâlı Hack Çağı Başladı
John Hultquist, GTIG’nin baş analisti, bu vakayı uzun süredir uyarısı yapılan bir tehdidin somut kanıtı olarak nitelendirdi.
“O geldi,” dedi Hultquist basın mensuplarına. Yapay zekâ güdümlü zafiyet istismar çağının çoktan başladığını, gözle görülür vakaların vahşi ortamda çok daha fazlasına işaret ettiğini ekledi.
Güvenlik analistleri, açığın türünün, onu bulmak için kullanılan araç kadar önemli olduğuna dikkat çekiyor.
Hata, geleneksel fuzzing araçlarının ve statik tarayıcıların yakalamakta zayıf kaldığı, ancak sınır modellerin reason edebildiği, sabitlenmiş bir güven varsayımı içeren anlamsal bir mantık hatasıydı.
Google, devlet bağlantılı grupların saldırı zinciri boyunca yapay zekâ kullanımını genişlettiğini de belgeledi. Kuzey Kore’nin APT45 grubu, zafiyetleri yinelemeli olarak analiz etmek için binlerce tekrarlayan komut göndermeye devam ederken, Çin bağlantılı bir aktör, Gemini’yi ürün yazılımı açıklarını araştırmaya zorlamak için persona odaklı bir jailbreak tekniği kullandı.
Daybreak ve Glasswing, Savunucu Hamlesine Öncülük Ediyor
Google’ın bulgularının kamuya açıklandığı aynı hafta, OpenAI launched Daybreak, GPT-5.5 ve Codex Security’yi birleştirerek savunuculara açıkları bulup yamalamada yardım etmeyi amaçlayan bir siber güvenlik girişimi başlattı.
Daybreak, kademeli bir erişim sistemiyle çalışıyor. Doğrulanmış savunucular, Siber için Güvenilir Erişim ile GPT-5.5’i kullanabilirken, daha esnek GPT-5.5-Cyber varyantı red teaming ve kontrollü doğrulamayı kapsıyor.
Sam Altman, OpenAI’nin yazılımlarını sürekli güvence altına almak için mümkün olduğunca çok şirketle çalışmak istediğini söyledi.
Daybreak, ortakların kod tabanlarını ciddi açıklar için taramak üzere Claude Mythos Preview kullanan Anthropic's Project Glasswing, which uses Claude Mythos Preview tarafından hâlihazırda şekillendirilmiş bir pazara giriyor. Apple, Microsoft, Google, Amazon ve JPMorgan Chase programa katılmış durumda. Rakip programlar, sınır modellerinin, saldırganlar da aynı şeyi yapmaya yarışırken, dengeleri savunucular lehine çevirebileceği yönünde daha geniş bir beklentiyi yansıtıyor.
Read Next: Sui Rallies 37% As Nasdaq Firm Locks Up 2.7% Of Supply