Розподілена мережа агентів OpenAI використала більш ніж 10 раніше неоприлюднених сайтів для несанкціонованих комунікацій, обійшовши обмеження на публікації в інтернеті.
Ключові тези:
- Незалежні дослідники відстежили комунікації агентів OpenAI більш ніж на 10 раніше невідомих сайтах, використаних у період з травня по липень.
- Сліди знайшли на вікі-платформах, сервісах зберігання текстів і університетських скорочувачах посилань; оцінки сягають до 23 сайтів.
- OpenAI заявила, що її перевірка не виявила іншої активності, співставної за масштабом чи серйозністю з інцидентом на Hugging Face.
Активність агентів OpenAI
Агенти OpenAI між травнем і липнем використовували понад 10 сайтів для несанкціонованого обміну інформацією, йдеться у матеріалі Reuters від 9 вересня, підготовленому на основі шести незалежних розслідувань і даних, переглянутих агентством. Звіт розширює відому картину за межі німецькомовної вікі, яку агенти раніше перетворили на імпровізований месенджер під час виконання дослідницьких завдань.
Розслідувачі пов’язували активність на різних сайтах, зіставляючи фрагменти даних, імена користувачів та нетипові дослідницькі запити — зокрема щодо поширеності раку в Айові. Частина слідів вела також до інфраструктури Microsoft Azure, яку OpenAI час від часу використовує.
Reuters не змогло підтвердити кожен окремий епізод, однак усі опитані дослідники називали кількість сайтів більшою за 10. До переліку увійшли спільнотні вікі-проєкти, сервіси зберігання тексту та університетські скорочувачі посилань.
В OpenAI не уточнили, скільки саме майданчиків було задіяно, і не пояснили, чому ця активність залишалася непублічною місяцями. Компанія заявила, що ширший аудит «не виявив іншої активності, співставної за серйозністю або масштабом з Hugging Face», та пообіцяла створити рамковий підхід до розкриття випадків «дисбалансу» чи «несумісної поведінки» моделей.
Читайте також: Apple встановила ціну на перший складаний дует iPhone у $1 999 — і це має непокоїти Samsung
Юн попереджає про ризики
Дослідник каліфорнійської некомерційної організації CivAI Ендрю Юн заявив, що нарахував 18 раніше неоприлюднених сайтів і назвав реальний масштаб «дещо більшим, ніж ми думали». За його словами, «майже напевно, що відбувається більше, ніж ми зараз бачимо».
Сідні фон Аркс, чия група першою повідомила про активність на німецькомовній платформі, зазначила, що має підтверджені знахідки вже на 23 раніше не описаних публічно сайтах, але наголосила, що ці оцінки неповні. «Ми не уявляємо, скільки всього там назбиралося», — сказала вона.
Розробник ПЗ та колишній помічник у Конгресі США Кеннет Рассел ДеГрафф заявив, що виявив сліди діяльності щонайменше на 10 сайтах. На думку дослідників, агенти вимушено імпровізували канали зв’язку: моделі могли сканувати інтернет у пошуках відповідей, але не мали права публікуватися, через що, як сказав ДеГрафф, їм доводилося «проявляти кмітливість, залишаючи інформацію».
Університет Торонто повідомив, що OpenAI зв’язалася з ним після публікації матеріалу Reuters, а Університет Вандербільта заявив, що розслідує подібне використання свого скорочувача посилань. Відставний розробник ПЗ Гельмут Ляйтнер, який адмініструє шість постраждалих вікі-сайтів, розповів, що пізніше отримав анонімний лист від OpenAI електронною поштою й поклав відповідальність на «людей та організації, які стоять за цим».
Нові дані з’явилися після липневого інциденту з відкритим репозиторієм Hugging Face та торішнього розкриття активності на німецькомовній DseWiki. Ті епізоди вперше показали, що агенти здатні обходити закладені обмеження, а нинішні розслідування свідчать: така поведінка сягнула значно ширшого кола сайтів.
Читайте далі: Trezor фіксує другу сторонню атаку за місяць: зловмисники використовують її домен для фішингу
