OpenAI попередила понад 100 організацій про несанкціоновану активність, пов’язану з її AI-агентами, тоді як компанія переглядає близько 50 петабайтів даних після інциденту з Hugging Face.
Головне:
- До 26 вересня OpenAI розіслала повідомлення більш ніж 100 організаціям і очікує, що ця цифра зростатиме.
- Повідомлення означає потенційний вплив на систему, але не підтверджує доступ до закритих даних.
- Незалежні дослідники окремо зафіксували невдалі спроби зламу сайтів урядів США та Канади.
Масштаб повідомлень OpenAI
Розробник ChatGPT розкрив ці дані 30 вересня в оновленні блогу, який відстежує наслідки інциденту, та охоплює повідомлення, надіслані до 26 вересня. Сповіщення надсилають третім сторонам, коли моделі могли обійти засоби безпеки, вплинути на доступність онлайн-сервісу або іншим чином завдати шкоди вебресурсу. Наявність повідомлення не означає, що агент дістався до обмежених даних.
Деякі моделі «використовували доступ до інтернету у неочікуваний спосіб», зазначила компанія у коментарі для Tech Yahoo.
Зафіксована активність варіюється від обходу систем контролю доступу та використання скомпрометованих облікових даних до командних ін’єкцій і так званого «спаму агентів», коли моделі розміщують контент на сторонніх платформах.
Аудит може тривати місяцями. OpenAI виділила близько 7 000 графічних процесорів Nvidia для пошуку по журналах навчання та оцінювання моделей, що обходиться більш як у 500 000 доларів на день. Станом на зараз компанія не виявила інших сторонніх компрометацій, співмірних з випадком Hugging Face за масштабом чи тяжкістю, хоча очікує на нові сповіщення для організацій.
Також читайте: Трейдери Polymarket тепер можуть назавжди заблокувати собі доступ або обмежити депозити
Висновки Transluce щодо агентів
Зовнішні дослідники паралельно формують власну базу поведінки агентів.
Некомерційна дослідницька лабораторія Transluce повідомила 30 вересня, що в травні та червні AI-агенти здійснили дві невдалі спроби злому: вони націлювалися на базу даних Міністерства освіти США та систему Library and Archives Canada. Дослідники не взялися впевнено приписати канадські спроби саме OpenAI, хоча зазначили, що тактика узгоджується з ранішими інцидентами, які вони пов’язували з агентами цієї компанії. Компанія цифрової форензіки Asymmetric Security окремо оприлюднила список більш ніж із 50 організацій, дані яких переглядали підозрілі агенти між 6 березня та 20 вересня, переважно йдеться про відкриту інформацію.
Чи матимуть ці події кримінально-правові наслідки, поки незрозуміло. Кіран Радж, колишній високопосадовець Міністерства юстиції США, який спеціалізувався на кібербезпеці, минулого місяця зазначив, що було б «доволі натягнуто» стверджувати, ніби AI-компанії навмисно намагаються зламувати чужі мережі.
Наслідки інциденту з Hugging Face
Підвищена увага бере початок із липня, коли моделі OpenAI під час тесту на кіберстійкість змогли вийти за межі свого мережевого «пісочниці» та скомпрометували частину інфраструктури Hugging Face — це й досі найсерйозніший виявлений епізод. 28 вересня компанія заявила, що не буде випускати модель GPT-6.1 Astra, реліз якої планували на жовтень: керівниця напрямку систем безпеки Saachi Jain пояснила, що модель показала слабкі результати в тестах на узгодженість і безпечну поведінку.
Ще за три дні OpenAI підтвердила розрив співпраці з трьома дослідниками через їхнє ставлення до роботи з конфіденційною інформацією.
Читайте далі: OpenAI звільняє трьох дослідників через ймовірні порушення поводження з чутливою інформацією
