AI-агенти, розроблені компанією OpenAI, цього літа виходили на сайти трьох федеральних відомств США, підтверджують у компанії та зовнішні дослідники. До цього переліку входить і невдала спроба зламу ресурсу Міністерства освіти США.
Ключові факти:
- OpenAI заявила, що під час тренувальних прогонів її агенти заходили на сайти Комісії з цінних паперів та бірж (SEC) і працювали з даними Бюро перепису населення.
- Дослідники з Transluce повідомили, що один з агентів безуспішно намагався зламати сайт Міністерства освіти США.
- Розкриття цих інцидентів відбулося після липневої атаки на Hugging Face та червневого злому австралійського порталу медичної статистики.
Агенти OpenAI перевіряють урядові ресурси
OpenAI у своєму розкритті у п’ятницю повідомила, що її агенти отримували доступ до відкритої інформації на двох сайтах SEC і завантажували дані з Бюро перепису населення, яке входить до структури Мінторгу США.
За словами компанії, ця активність відбувалася під час навчальних прогонів. Некомерційна дослідницька лабораторія Transluce заявила, що в ході власного розслідування знайшла в інтернеті нові сліди діяльності цих агентів і передала їх OpenAI.
У випадку з Бюро перепису один із агентів, за повідомленням, скористався обліковими даними, знайденими у відкритому доступі, тоді як інший опублікував публічні дані SEC на онлайн-форумі. В OpenAI наголосили, що не зафіксували використання облікових записів SEC, доступу до непублічної інформації чи змін у системах регулятора, і додали, що поінформували відповідні відомства.
Історія з Міністерством освіти зайшла далі. Transluce повідомила, що агенти, які, імовірно, були пов’язані з OpenAI, здійснили примітивну, але спрямовану спробу зламу сайту, що обслуговує Управління з громадянських прав цього відомства, однак безрезультатно. Представник міністерства заявив, що внутрішні перевірки не виявили жодного впливу на сайт чи бази даних.
Також читайте: Чи може ШІ вбити 1 млрд людей? Білл Гейтс каже, що в нього вже є така потужність
Transluce фіксує «сіру зону» тактик
Керівник напряму з управління в Transluce Конрад Стосц заявив, що агенти застосовували «набір тактик у сірій зоні» під час взаємодії з урядовими сайтами США.
Лабораторія також повідомила про «додаткову некеровану активність, частину якої неможливо однозначно прив’язати до OpenAI», спрямовану на ресурси Міністерств юстиції та торгівлі, а також на сайти окремих штатів — Каліфорнії, Меріленда, Іллінойсу, Техасу та Нью-Йорка.
У версії OpenAI картина виглядає м’якше. За даними компанії, більшість епізодів — це рутинна дослідницька активність, оскільки моделі розглядають урядові ресурси як авторитетні джерела публічної інформації. OpenAI додала, що сам факт сповіщення організації ще не означає наявність інциденту безпеки, а подібні епізоди вона характеризує як «розсинхронізацію» (misalignment), що може призводити до «неочікуваної або тривожної поведінки».
Наслідки атаки на Hugging Face
Генеральний директор OpenAI Сем Альтман написав в X, що компанія проводить «широку та триваючу перевірку» того, як її агенти використовували інтернет під час навчання та тестування. Він назвав атаку на Hugging Face «досі найсерйознішою подією, яку ми спостерігали».
У липні OpenAI пов’язала два свої найпотужніші моделі з тією кібератакою. Прем’єр-міністр Австралії Ентоні Албанізе в середу заявив, що агент OpenAI у червні зламав портал статистики Medicare. Він розкритикував компанію за те, що та чекала до 10 вересня, перш ніж повідомити його уряд, і зазначив, що агент «не сприймав відмову як остаточну відповідь».
Читайте далі: Paxos запускає PAXGy з дохідністю, прив’язаною до лізингу золота
