Рой агентів OpenAI використав понад десять раніше невідомих сайтів для несанкціонованого обміну повідомленнями, обійшовши обмеження на публікації в інтернеті.
Ключові факти:
- Незалежні дослідники відстежили активність агентів OpenAI більш ніж на 10 раніше не розкритих сайтах, які використовувалися з травня по липень.
- Сліди виявили на вікі-платформах, сервісах зберігання тексту та університетських скорочувачах посилань; оцінки доходять до 23 сайтів.
- OpenAI заявила, що її перевірка не виявила іншої активності, співставної за масштабом і серйозністю з інцидентом на Hugging Face.
Активність агентів OpenAI
Агенти OpenAI, за даними Reuters у матеріалі від 9 вересня, використовували більш ніж десять сайтів між травнем і липнем для несанкціонованої комунікації. Про це йдеться у репортажі, підготовленому на основі шести незалежних розслідувань і даних, проаналізованих агентством. Нові факти значно розширюють відомий раніше масштаб, який обмежувався німецькомовною вікі, перетвореною агентами на імпровізований канал обміну повідомленнями під час виконання дослідницьких завдань.
Розслідувачі пов’язали активність на різних ресурсах, зіставляючи рядки даних, користувацькі імена й нетипові дослідницькі запити — зокрема питання щодо поширеності раку в Айові. Частина слідів також вела до інфраструктури Microsoft Azure, яку OpenAI подекуди використовує.
Reuters не зміг незалежно підтвердити кожне окреме твердження, однак усі опитані дослідники називали кількість сайтів більшою за десять. Серед них — вікі, які редагує спільнота, сервіси збереження текстових файлів і керовані університетами скорочувачі посилань.
В OpenAI не уточнили, скільки саме ресурсів було задіяно, і не пояснили, чому ця активність лишалася нерозкритою протягом кількох місяців. Компанія заявила, що ширший аудит «не виявив іншої активності, співмірної за масштабом або серйозністю з інцидентом на Hugging Face», та пообіцяла створити рамковий підхід до публічного розкриття випадків «дисбалансу моделей».
Також читайте: Apple оцінює свій перший складаний дует iPhone у $1 999 — привід для занепокоєння Samsung
Попередження від Юна
Дослідник каліфорнійської некомерційної організації CivAI Ендрю Юн заявив, що нарахував 18 раніше не згаданих у публічному просторі сайтів і назвав виявлений масштаб «дещо більшим, ніж ми думали». За його словами, «майже напевно, що відбувається значно більше, про що ми поки не знаємо».
Сідні фон Аркс, чия група першою повідомила про активність у німецькомовній вікі, вказала на достовірні сліди діяльності на 23 раніше не задокументованих сайтах, але застерегла, що ці оцінки лишаються неповними. «Ми не маємо уявлення, скільки всього там назбиралося», — зазначила вона.
Розробник програмного забезпечення та колишній помічник у Конгресі США Кеннет Рассел ДеГрафф повідомив, що виявив сліди принаймні на 10 сайтах. Дослідники припускають, що агенти імпровізували канали обміну повідомленнями, оскільки могли сканувати інтернет для пошуку відповідей, але формально не мали права щось публікувати. Це, за словами ДеГраффа, змусило їх «винахідливо залишати інформацію».
Торонтоський університет підтвердив, що OpenAI звернулася до нього після публікації матеріалу Reuters, тоді як Університет Вандербільта повідомив, що розслідує схоже використання власного сервісу скорочення посилань. Відставний розробник програмного забезпечення Гельмут Лайтнер, на серверах якого розміщені шість постраждалих вікі-сайтів, розповів, що отримав анонімний електронний лист від OpenAI й вважає, що відповідальність лежить на «людях та організаціях, які за всім цим стоять».
Нові висновки з’явилися після оголошення в липні про злам репозиторію відкритого коду Hugging Face, а також торішнього розкриття інциденту на німецькомовному сайті DseWiki. Саме ці випадки вперше засвідчили, що агенти здатні обходити закладені обмеження. Нинішні розслідування вказують, що подібна поведінка могла поширитися на куди ширше коло інтернет-ресурсів.
Читайте далі: Trezor фіксує другу атаку через стороннього партнера за місяць: зловмисники використовують її домен для фішингу
