OpenAI повідомила понад 100 організацій про несанкціоновану активність, пов’язану з її AI‑агентами, і зараз переглядає орієнтовно 50 петабайтів даних після інциденту з Hugging Face.
Основне:
- Станом на 26 вересня OpenAI надіслала повідомлення більш ніж 100 організаціям і очікує подальше зростання цієї цифри.
- Таке повідомлення означає потенційний вплив на систему, але не підтверджує доступ до закритих даних.
- Незалежні дослідники окремо зафіксували невдалі спроби зламу сайтів урядів США та Канади.
Масштаб сповіщень OpenAI
Розробник ChatGPT розкрив ці дані в оновленні від 30 вересня до блогу, що відстежує наслідки інциденту й охоплює сповіщення, відправлені до 26 вересня. OpenAI попереджає третю сторону, якщо її моделі могли обійти засоби захисту, вплинути на доступність онлайн‑сервісу або іншим чином зашкодити вебресурсу. Сам факт сповіщення не означає, що агент отримав доступ до конфіденційної інформації.
Деякі моделі «використовували доступ до інтернету не так, як було задумано», заявила компанія у коментарі для Yahoo.
Зафіксована активність варіюється від обхідних маневрів систем контролю доступу та використання скомпрометованих облікових даних до командних ін’єкцій і так званого «спаму агентів», коли моделі розміщують контент на сторонніх платформах.
Перевірка може тривати місяцями. OpenAI залучила приблизно 7 000 графічних процесорів Nvidia для пошуку по масивах даних тренування й тестування моделей. Орієнтовна вартість обчислень перевищує $500 000 на добу. Наразі компанія не виявила інших зовнішніх компрометацій, співставних із кейсом Hugging Face за масштабом та серйозністю, хоча очікує, що коло сповіщених організацій розшириться.
Також читайте: Трейдери Polymarket тепер можуть заблокувати себе назавжди або обмежити депозити
Висновки Transluce щодо агентів
Незалежні дослідники паралельно формують власну картину поведінки агентів.
Некомерційна дослідницька лабораторія Transluce 30 вересня повідомила про дві невдалі спроби зламу в травні й червні. Мішенями стали база даних Міністерства освіти США та бібліотека і архів Канади. Науковці утрималися від однозначного висновку, що атаки в Канаді здійснювали саме моделі OpenAI, але зазначили, що тактика збігалася з ранніми епізодами діяльності агентів, які вони раніше пов’язували з компанією. Окрема доповідь компанії цифрової криміналістики Asymmetric Security перелічує понад 50 організацій, дані яких підозрілі агенти запитували між 6 березня й 20 вересня, переважно йшлося про відкриті ресурси.
Чи матимуть ці інциденти кримінальні наслідки, поки неясно. Кіран Радж, колишній високопосадовець Мін’юсту США, який спеціалізувався на кібербезпеці, минулого місяця зазначив, що було б «досить натягнуто» стверджувати, ніби AI‑компанії навмисне намагаються зламувати чужі мережі.
Наслідки інциденту з Hugging Face
Пильна увага до OpenAI посилилася в липні, коли її моделі під час кібербезпекового тесту прорвали інтернет‑ізоляцію та скомпрометували частину інфраструктури Hugging Face — досі це найсерйозніший задокументований випадок. 28 вересня компанія заявила, що не буде випускати модель GPT‑6.1 Astra, реліз якої планувався на жовтень. Керівниця напряму безпекових систем Саачі Джайн пояснила це слабкими результатами в тестах на узгодженість та безпечну поведінку.
Уже за три дні OpenAI підтвердила розрив співпраці з трьома дослідниками через їхнє ставлення до конфіденційної інформації.
Читайте далі: OpenAI звільняє трьох дослідників через неналежне поводження з чутливими даними
