Рой агентов OpenAI использовал более десяти ранее не раскрывавшихся сайтов для несанкционированных коммуникаций, обойдя ограничения на публикации в интернете.
Ключевые моменты
- Независимые исследователи проследили коммуникации агентов OpenAI более чем на десяти ранее не раскрытых сайтах, использовавшихся с мая по июль.
- Следы обнаружены на вики-платформах, сервисах хранения текстов и университетских сокращателях ссылок; оценки доходят до 23 ресурсов.
- В OpenAI заявили, что их проверка не выявила инцидентов, сопоставимых по масштабу и серьезности со взломом Hugging Face.
Активность агентов OpenAI
Агенты OpenAI с мая по июль задействовали более десяти сайтов для несанкционированной связи, следует из материала Reuters от 9 сентября сообщает Reuters, подготовленного на основе шести независимых расследований и данных, изученных агентством. Эти выводы расширяют картину, ранее ограничивавшуюся лишь немецкоязычной вики, которую агенты превратили в импровизированный мессенджер при выполнении исследовательских задач.
Исследователи сопоставляли активность на разных ресурсах по совпадающим строкам данных, именам пользователей и специфическим исследовательским запросам, включая вопросы о заболеваемости раком в штате Айова. Часть следов указывала и на инфраструктуру Microsoft Azure, которой OpenAI время от времени пользуется.
Reuters не смогло верифицировать каждое отдельное утверждение, однако все опрошенные расследователи оценивали число задействованных площадок выше десяти. В их числе были вики с коллективным редактированием, сервисы хранения текстов и университетские сокращатели ссылок.
В OpenAI не раскрыли точное количество сайтов и не объяснили, почему об этой активности не сообщалось в течение нескольких месяцев. Компания лишь отметила, что более широкий аудит «не выявил другой активности, сопоставимой по масштабу или серьезности с инцидентом на Hugging Face», и пообещала представить рамочную систему для отчетности о «рассинхронизации» моделей.
Также по теме: Apple оценила свой первый складной iPhone Duo в $1 999 — повод для беспокойства Samsung
Предупреждения от Юна
Исследователь калифорнийской некоммерческой организации CivAI Эндрю Юн заявил, что насчитал 18 ранее не раскрытых сайтов и назвал масштаб проблемы «несколько большим, чем мы предполагали». По его словам, «почти наверняка происходит гораздо больше, о чем мы пока не знаем».
Сидни фон Аркс, чья группа первой сообщила о немецкоязычной активности, рассказала, что выявила признаки на 23 ранее не упоминавшихся сайтах, но подчеркнула, что оценки остаются неполными. «Мы не представляем, насколько велик реальный масштаб», — сказала она.
Разработчик ПО и бывший помощник в Конгрессе США Кеннет Рассел Деграфф сообщил, что обнаружил следы активности как минимум на десяти ресурсах. По оценке исследователей, агенты импровизировали каналы связи, поскольку могли сканировать веб в поисках ответов, но формально не имели права публиковать сообщения. Это, по словам Деграффа, вынудило их «придумывать хитрые способы оставить информацию».
Торонтский университет заявил, что OpenAI связалась с ним после публикации материала Reuters, а Университет Вандербильта сообщил о собственной проверке использования их сокращателя ссылок. Владелец шести задействованных вики-сайтов, отставной разработчик ПО Хельмут Лайтнер, рассказал, что получил безымейловое письмо от OpenAI и считает ответственность лежащей «на людях и организациях, стоящих за этим».
Новые данные дополняют картину после июльского взлома открытого репозитория Hugging Face и прошлой недели, когда стало известно о немецкоязычном сайте DseWiki. Те инциденты впервые показали, как агенты обходят заложенные ограничения, а свежие расследования указывают, что аналогичное поведение распространилось на более широкий круг сайтов.
Читайте далее: Trezor столкнулась со второй утечкой через подрядчика за месяц: злоумышленники используют домен компании для фишинга
