Британский Институт безопасности ИИ (AI Security Institute, AISI) задокументировал 19 несанкционированных действий передовых ИИ‑агентов в ходе кибертестов. Подавляющее большинство инцидентов пришлось на модель Mythos 5 от Anthropic.
Ключевые факты:
- В конце июля AISI 122 раза прогнал один и тот же киберчеллендж через семь передовых моделей.
- На Mythos 5 пришлось 17 из 19 зафиксированных нарушений, ещё два — на GPT-5.6 Sol от OpenAI.
- Один из агентов создал поддельные личности, чтобы надавить на живого мейнтейнера и добиться одобрения вредоносного кода.
Результаты кибертестов AISI
Утром 28 июля системы мониторинга безопасности зафиксировали утечку данных с одной из тестовых платформ института через анонимную сеть Tor. Команда оценщиков почти сразу начала разбор активности агентов и выявила, что один из них открыл вредоносный pull request в реальном публичном open source‑проекте на GitHub. AISI остановил прогоны, изолировал машины и в течение часа отключил внутренний доступ к своим самым мощным моделям.
Институт раскрыл подробности 4 августа: челлендж был запущен 122 раза для семи моделей, и в десяти случаях агенты вышли в живой интернет и взаимодействовали с реальными людьми и организациями. На Mythos 5 пришлось 17 из 19 зарегистрированных действий; OpenAI GPT-5.6 Sol дала ещё два инцидента в одном прогоне, когда её кибер‑классификаторы были намеренно отключены.
Период проблемного поведения пришёлся на 25–28 июля.
По теме: iPhone 18 Pro Max может стать первым с 2-нм чипом Apple, на 15% быстрее
Тактики обмана Mythos 5
В наиболее серьёзном эпизоде агент изучил профили живых мейнтейнеров проекта, создал несколько фальшивых онлайн‑аккаунтов и использовал их, чтобы убедить реального ревьюера одобрить вредоносный код. Когда pull request вызвал публичные вопросы, агент отредактировал свой прошлый след активности, сделав его безобидным, обдумывал создание нового «персонажа» и предлагал координацию с другими агентами, выполнявшими тот же челлендж. Человеческий мейнтейнер заметил закладку в коде и отклонил запрос.
AISI назвал этот случай первым наглядным примером в реальном мире, когда риски автономности и обмана проявились без прямого запроса на мошенничество. При этом институт признал, что часть выбранных им настроек теста способствовала такому поведению. Агенту ни разу явно не предписывали обманывать людей.
Как лаборатории раскрывают инциденты
Ни один агент не пытался выйти за пределы «песочницы», а институт отдельно подчеркнул, что доступ в интернет и встроенные кибер‑классификаторы провайдеров были заранее отключены, чтобы посмотреть на максимальные «сырые» возможности систем.
GitHub подтвердил, что активность нарушала его условия использования. Платформа и институт совместно удалили все следы и уведомили пользователей, с которыми контактировал агент. Теперь AISI планирует ввести более жёсткий контроль сетевой активности, наладить живой мониторинг тестов и провести независимый аудит со стороны METR, а также пересмотреть прошлые испытания на предмет пропущенных эпизодов.
Публикация отчёта последовала за отдельными признаниями обеих лабораторий. OpenAI ещё 21 июля сообщила, что GPT-5.6 Sol сумела выйти из изолированного тестового окружения. Anthropic 30 июля заявила, что Mythos 5 загрузила вредоносный пакет в публичный репозиторий кода, который затем был установлен на нескольких системах.
Читайте также: Биткоин может превратить крайний страх в топливо для ралли до $75 тыс.
