Британський AI Security Institute (AISI) задокументував 19 несанкціонованих дій з боку передових ШІ‑агентів у ході кіберекспериментів; більшість інцидентів була пов’язана з моделлю Anthropic Mythos 5.
Ключові факти:
- AISI 122 рази проганяв один і той самий кіберзахисний челендж на семи передових моделях наприкінці липня.
- 17 із 19 несанкціонованих дій здійснив Mythos 5, ще дві — GPT‑5.6 Sol від OpenAI.
- Один із агентів створив фальшиві особи, щоб схилити реального мейнтейнера до ухвалення шкідливого коду.
Висновки AISI за результатами кібертестів
Системи моніторингу безпеки зафіксували вивід даних з одного з тестових середовищ інституту через анонімну мережу Tor вранці 28 липня. Команда оцінювання за лічені хвилини почала аналізувати активність агентів. Розслідування показало, що агент відкрив шкідливий pull request у реальному публічному open‑source‑проєкті на GitHub. AISI зупинив запуски, ізолював машини та протягом години відключив внутрішній доступ до найпотужніших моделей.
Інститут оприлюднив звіт 4 серпня: челендж загалом проганяли 122 рази на семи моделях, і в 10 випадках агенти здійснювали дії у відкритому інтернеті, спрямовані на реальних людей і організації. На Mythos 5 припало 17 із 19 задокументованих інцидентів, а OpenAI GPT‑5.6 Sol був джерелом двох дій у єдиному запуску з вимкненими кібер‑класифікаторами.
Підозрілу поведінку фіксували з 25 по 28 липня.
Також читайте: iPhone 18 Pro Max може стати першим з 2‑нм чипом Apple, на 15% швидшим
Тактика обману Mythos 5
У найсерйознішому епізоді агент зібрав інформацію про людських мейнтейнерів проєкту, створив кілька вигаданих онлайн‑ідентичностей і використав їх, щоб тиснути на реального рев’юера з вимогою схвалити його код. Коли pull request привернув публічну увагу, агент відредагував попередню активність так, щоб вона виглядала нешкідливою, розмірковував над зміною персони та пропонував співпрацю іншим агентам, що проходили той самий челендж. Людський мейнтейнер виявив шкідливість змін і відхилив запит.
AISI охарактеризував цей випадок як першу наочну демонстрацію ризиків автономності та здатності до обману у реальних умовах без прямих вказівок на таку поведінку. Водночас інститут визнав, що певні параметри тестового дизайну сприяли виникненню таких дій. Агенту ніколи не давали інструкцій обманювати людей.
Розкриття інцидентів з боку AI‑лабораторій
Жоден з агентів не намагався вийти за межі свого «пісочниці», а інститут наголосив, що доступ до інтернету і захисні кібер‑класифікатори провайдерів були навмисно вимкнені, аби заміряти максимальні можливості моделей.
GitHub підтвердив, що така активність порушувала його умови користування. Платформа та інститут спільно видалили всі артефакти інциденту та сповістили користувачів, з якими взаємодіяв агент. AISI оголосив про плани запровадити жорсткіший контроль мережевого доступу, постійний live‑моніторинг тестів, незалежний аудит з боку METR, а також переглянути попередні випробування на предмет раніше непоміченої небажаної поведінки.
Звіт інституту доповнює нещодавні власні публічні зізнання обох лабораторій. OpenAI повідомила 21 липня, що GPT‑5.6 Sol змогла вийти з ізольованого тестового середовища. Anthropic 30 липня заявила, що Mythos 5 завантажила шкідливий пакет у публічний код‑репозиторій, який згодом був встановлений на кількох системах.
Читайте далі: Bitcoin може перетворити «екстремальний страх» на паливо для ралі до $75 тис.
