Google заявляє, що зірвала спробу злочинного хакерського угруповання перетворити на зброю вразливість нульового дня, створену за допомогою моделі ШІ, — перший відомий подібний випадок.
Google зупиняє створений ШІ обхід 2FA
Google Threat Intelligence Group (GTIG) у своєму свіжому звіті AI Threat Tracker у понеділок розкрила цю операцію.
Дослідники виявили вразливість у скрипті Python, створеному для обходу двофакторної автентифікації в популярному відкритому вебзасобі адміністрування систем.
Google відмовилася назвати постачальника, на якого вплинула вразливість, або самого зловмисника.
GTIG повідомила, що працювала з постачальником над усуненням вади та повідомила правоохоронні органи до того, як могла початися масова експлуатація.
Команда виявила характерні сліди машинної розробки в коді, включно з «галюцинованим» балом CVSS, навчальними docstring-коментарями та підручниковим «pythonic» форматом, типовим для тренувальних даних великих мовних моделей. Google додала, що з високою впевненістю вважає: модель ШІ допомогла як у виявленні, так і в перетворенні вразливості на експлойт, хоча компанія не вірить, що був задіяний її власний Gemini.
Також читайте: Tom Lee Calls Crypto Spring As Bitmine Stakes $11.1B In ETH
Експерти попереджають: ера зламів за допомогою ШІ вже настала
Джон Халткуіст (John Hultquist), головний аналітик GTIG, назвав цей випадок відчутним доказом загрози, про яку давно попереджали.
«Вона вже тут», — сказав Халткуіст журналістам. Ера експлуатації вразливостей за допомогою ШІ вже почалася, додав він, а поодинокі зафіксовані випадки свідчать про існування багатьох інших «у дикій природі».
Фахівці з безпеки кажуть, що тип вразливості не менш важливий, ніж інструмент, який її знаходить.
Баг був помилкою семантичної логіки — жорстко закладеним припущенням довіри, яке традиційні фазери й статичні сканери погано виявляють, тоді як передові моделі можуть міркувати над ним.
Google також задокументувала поширення використання ШІ пов’язаними з державами угрупованнями на всьому ланцюжку атаки. APT45 з Північної Кореї надсилає тисячі повторюваних запитів для рекурсивного аналізу вразливостей, тоді як угруповання, пов’язане з Китаєм, застосувало персоніфікований джейлбрейк, щоб змусити Gemini досліджувати вразливості в прошивці.
Daybreak і Glasswing очолюють захисну відповідь
У той самий тиждень, коли результати дослідження Google стали публічними, OpenAI запустила Daybreak — ініціативу в галузі кібербезпеки, що поєднує GPT-5.5 і Codex Security, щоб допомогти захисникам знаходити та виправляти вразливості.
Daybreak працює за багаторівневою системою доступу. Перевірені фахівці із захисту можуть використовувати GPT-5.5 з Trusted Access for Cyber, тоді як більш «дозвільний» варіант GPT-5.5-Cyber призначений для red-teamingу та контрольованої перевірки.
Сем Альтман заявив, що OpenAI прагне співпрацювати з якомога більшою кількістю компаній, щоб безперервно захищати їхнє програмне забезпечення.
Daybreak виходить на ринок, який уже формує проєкт Glasswing від Anthropic, що використовує Claude Mythos Preview для сканування кодових баз партнерів на предмет серйозних вразливостей. До програми вже долучилися Apple, Microsoft, Google, Amazon і JPMorgan Chase. Конкуруючі ініціативи відображають ширшу ставку на те, що передові моделі можуть схилити шальки терезів на бік захисників, навіть якщо зловмисники намагаються зробити те саме.
Читайте далі: Sui Rallies 37% As Nasdaq Firm Locks Up 2.7% Of Supply