Google заявила, что сорвала попытку хакерской группировки превратить в оружие нулевую уязвимость, созданную с помощью модели ИИ — первый такой задокументированный случай.
Google блокирует созданный ИИ обход 2FA
Google Threat Intelligence Group (GTIG) disclosed вмешательство в понедельник в своем новом отчете AI Threat Tracker.
Исследователи обнаружили уязвимость в скрипте Python, созданном для обхода двухфакторной аутентификации в популярном веб-инструменте администрирования с открытым исходным кодом.
Google отказалась назвать затронутого вендора или конкретную группировку.
GTIG сообщила, что worked совместно с вендором для исправления уязвимости и уведомила правоохранительные органы до того, как началась массовая эксплуатация.
Команда отметила характерные следы машинного авторства в коде, включая «галлюцинированный» CVSS‑балл серьезности, обучающие docstring‑комментарии и образцовый «питонический» стиль, типичный для обучающих данных больших языковых моделей. Google добавила, что с высокой степенью уверенности считает, что модель ИИ помогала в поиске и превращении уязвимости в эксплойт, хотя не полагает, что был задействован собственный Gemini.
Также читайте: Tom Lee Calls Crypto Spring As Bitmine Stakes $11.1B In ETH
Эксперты предупреждают: эра взломов с ИИ уже началась
Джон Халткуист (John Hultquist), главный аналитик GTIG, назвал этот случай осязаемым доказательством угрозы, о которой давно предупреждали.
«Она уже здесь», — сказал Халткуист журналистам. По его словам, эра эксплуатации уязвимостей с помощью ИИ уже началась, а видимые случаи указывают на множество других, происходящих незаметно.
Аналитики по безопасности отмечают, что тип уязвимости столь же важен, как и инструмент, с помощью которого ее находят.
Ошибка представляла собой семантическую логическую уязвимость — жестко заданное допущение доверия, которое традиционные фаззеры и статические сканеры плохо улавливают, но с которым передовые модели могут reason справляться с помощью рассуждений.
Google также задокументировала расширение использования ИИ группами, связанными с государствами, на всех этапах цепочки атаки. APT45 из КНДР посылает тысячи повторяющихся запросов, чтобы рекурсивно анализировать уязвимости, тогда как связанный с Китаем участник применил «персонализированный» jailbreak, чтобы вынудить Gemini исследовать уязвимости прошивок.
Daybreak и Glasswing возглавляют защитный ответ
В ту же неделю, когда выводы Google стали публичными, OpenAI launched Daybreak — инициативу в области кибербезопасности, объединяющую GPT-5.5 и Codex Security, чтобы помогать защитникам находить и устранять уязвимости.
Daybreak работает по многоуровневой системе доступа. Подтвержденные защитники могут использовать GPT-5.5 с режимом Trusted Access for Cyber, тогда как более разрешительная версия GPT-5.5-Cyber предназначена для red teaming и контролируемой проверки.
Сэм Альтман заявил, что OpenAI хочет сотрудничать с максимально возможным числом компаний, чтобы постоянно повышать безопасность их ПО.
Daybreak выходит на рынок, который уже формирует проект Anthropic's Project Glasswing, который использует Claude Mythos Preview для сканирования кодовых баз партнеров на наличие критических уязвимостей. К программе присоединились Apple, Microsoft, Google, Amazon и JPMorgan Chase. Конкурирующие инициативы отражают более широкую ставку на то, что передовые модели смогут изменить баланс сил в пользу защитников, даже несмотря на то, что злоумышленники стремятся сделать то же самое.
Читайте далее: Sui Rallies 37% As Nasdaq Firm Locks Up 2.7% Of Supply