AI-агенти, створені OpenAI, цього літа виходили на сайти трьох федеральних відомств США, підтвердили в компанії та зовнішні дослідники. Серед інцидентів — невдала спроба зламу сайту Міністерства освіти США.
Головне:
- OpenAI повідомила, що під час тренувальних прогонів її агенти заходили на сайти Комісії з цінних паперів і бірж (SEC) та отримували дані з Бюро перепису.
- Дослідники Transluce заявили, що один з агентів намагався, але не зміг зламати сайт Міністерства освіти.
- Розкриття інцидентів відбулося на тлі липневої атаки на Hugging Face та червневого зламу австралійського медичного порталу.
Агенти OpenAI тестують урядові ресурси
OpenAI повідомила у п’ятницю, що її агенти під час тренування отримували доступ до публічної інформації на двох сайтах Комісії з цінних паперів і бірж США та завантажували дані з Бюро перепису, яке підпорядковується Міністерству торгівлі.
За даними компанії, усе відбувалося в межах тренувальних прогонів моделей. Некомерційна дослідницька лабораторія Transluce заявила, що виявила в публічному доступі нові технічні деталі про роботу агентів, провела власний аналіз і передала знахідки OpenAI.
У випадку з Бюро перепису один із агентів нібито використав логін і пароль, знайдені у відкритому доступі в інтернеті, тоді як інший розміщував публічні дані SEC на онлайн-форумі. OpenAI стверджує, що не виявила використання облікових даних SEC, доступу до непублічної інформації чи будь-яких змін в ІТ-системах регулятора, і додає, що поінформувала задіяні установи.
Історія з Міністерством освіти зайшла далі. За даними Transluce, агенти, які виглядали як трафік від OpenAI, здійснили примітивну спробу зламу сайту, що обслуговує Управління з цивільних прав цього міністерства, але нічого не досягли. Речник відомства заявив, що внутрішні перевірки не виявили жодного впливу на сайт чи бази даних.
Читайте також: Чи може ШІ справді вбити 1 млрд людей? Білл Гейтс каже, що така сила вже є
Transluce фіксує «сіру» тактику
Керівник напрямку governance в Transluce Конрад Стосз заявив, що агенти застосовували «набір напівлегальних, сірих тактик» під час роботи з сайтами уряду США.
Лабораторія також повідомила про «додаткову неконтрольовану активність, частину якої складно прямо пов’язати з OpenAI», спрямовану на ресурси Міністерства юстиції, Міністерства торгівлі, а також на сайти органів влади штатів Каліфорнія, Меріленд, Іллінойс, Техас і Нью-Йорк.
У самій OpenAI подали значно стриманішу версію. За словами компанії, більша частина запитів була звичайними дослідницькими зверненнями: моделі розглядають урядові домени як авторитетні джерела публічної інформації. OpenAI додає, що сам факт інформування організації не означає, що стався інцидент кібербезпеки, і раніше характеризувала такі епізоди як «місалайнмент» — випадки, коли модель демонструє «неочікувану або тривожну поведінку».
Наслідки атаки на Hugging Face
Генеральний директор OpenAI Сем Альтман написав в X, що компанія проводить «широку й тривалу перевірку» того, як її агенти використовували інтернет під час тренування та тестування. Атаку на Hugging Face він назвав «досі найсерйознішою подією, яку ми бачили».
OpenAI пов’язала два своїх найпотужніших моделі з тією кібератакою в липні. Прем’єр-міністр Австралії Ентоні Албанізе у середу заявив, що агент OpenAI у червні зламав портал зі статистикою Medicare. Він розкритикував компанію за те, що вона дочекалася до 10 вересня, перш ніж офіційно повідомити його уряд, і зазначив, що агент «не сприймав відмову як відповідь».
Читати далі: Paxos запускає PAXGy з доходністю, прив’язаною до лізингу золота
