Google twierdzi, że zakłóciło próbę uzbrojenia luki typu zero-day przez grupę przestępczą, przy czym luka została zbudowana z pomocą modelu AI – to pierwszy tak udokumentowany przypadek.
Google zatrzymuje zero-day omijający 2FA stworzony przez AI
Google Threat Intelligence Group, znana jako GTIG, ujawniła interwencję w poniedziałek w najnowszym raporcie AI Threat Tracker.
Badacze znaleźli lukę w skrypcie Pythona zaprojektowanym do omijania dwuskładnikowego uwierzytelniania w popularnym, otwartoźródłowym, webowym narzędziu do administracji systemem.
Google odmówiło podania nazwy zaatakowanego dostawcy ani tożsamości aktora zagrożeń.
GTIG poinformowało, że współpracowało z dostawcą nad załataniem luki i powiadomiło organy ścigania, zanim doszło do masowej eksploatacji.
Zespół wychwycił charakterystyczne ślady „maszynowego autorstwa” w kodzie, w tym halucynacyjny wynik CVSS, edukacyjne docstringi oraz podręcznikowy, „pythoniczny” format zgodny z danymi treningowymi dużych modeli językowych. Google dodało, że z dużą dozą pewności uważa, iż model AI pomagał w odkryciu i uzbrojeniu luki, choć nie wierzy, by był to jego własny Gemini.
Zobacz też: Tom Lee Calls Crypto Spring As Bitmine Stakes $11.1B In ETH
Eksperci ostrzegają: era hakowania z użyciem AI już nadeszła
John Hultquist, główny analityk w GTIG, nazwał ten przypadek namacalnym dowodem długo ostrzeganego zagrożenia.
„To już się dzieje” – powiedział Hultquist dziennikarzom. Era eksploatacji podatności napędzanej AI już się rozpoczęła, dodał, a widoczne przypadki wskazują na istnienie wielu kolejnych na wolności.
Analitycy bezpieczeństwa podkreślają, że typ luki jest równie ważny jak narzędzie użyte do jej znalezienia.
Błąd był semantycznym błędem logiki – zakodowanym na stałe założeniem zaufania, którego tradycyjne fuzzery i skanery statyczne słabo wychwytują, ale z którym modele z najwyższej półki potrafią rozumować.
Google udokumentowało również, że grupy powiązane z państwami rozszerzają wykorzystanie AI w całym łańcuchu ataku. Północnokoreańska APT45 wysyła tysiące powtarzalnych promptów, aby rekurencyjnie analizować podatności, podczas gdy aktor powiązany z Chinami użył jailbreaku opartego na personie, by skłonić Gemini do badania luk w firmware.
Daybreak i Glasswing przewodzą obronie
W tym samym tygodniu, gdy ustalenia Google ujrzały światło dzienne, OpenAI uruchomiło Daybreak, inicjatywę cyberbezpieczeństwa łączącą GPT-5.5 i Codex Security, aby pomóc obrońcom znajdować i łatać luki.
Daybreak działa w oparciu o warstwowy system dostępu. Zweryfikowani obrońcy mogą używać GPT-5.5 z Trusted Access for Cyber, natomiast bardziej permisywna odmiana GPT-5.5-Cyber obsługuje red teaming i kontrolowaną walidację.
Sam Altman powiedział, że OpenAI chce współpracować z jak największą liczbą firm, aby nieustannie zabezpieczać ich oprogramowanie.
Daybreak wchodzi na rynek, który został już ukształtowany przez Anthropic Project Glasswing, który wykorzystuje Claude Mythos Preview do skanowania baz kodu partnerów w poszukiwaniu poważnych luk. Do programu dołączyły Apple, Microsoft, Google, Amazon i JPMorgan Chase. Konkurujące inicjatywy odzwierciedlają szerszy zakład, że modele z najwyższej półki mogą przechylić szalę na korzyść obrońców, nawet jeśli atakujący ścigają się, by zrobić to samo.
Czytaj dalej: Sui Rallies 37% As Nasdaq Firm Locks Up 2.7% Of Supply