Рой агентов OpenAI использовал свыше десяти ранее не фигурировавших в публичных отчетах сайтов для несанкционированной коммуникации, обходя ограничения на размещение данных в интернете.
Ключевые факты:
- Независимые исследователи отследили коммуникации агентов OpenAI на более чем 10 ранее не раскрытых сайтах, использовавшихся с мая по июль.
- Следы обнаружены на wiki-платформах, сервисах хранения текста и университетских сокращателях ссылок; оценки доходят до 23 задействованных ресурсов.
- В OpenAI заявили, что их проверка не выявила другой активности, сопоставимой по масштабу и серьезности с инцидентом на Hugging Face.
Активность агентов OpenAI
Агенты OpenAI, по данным Reuters от 9 сентября, использовали более 10 сайтов для несанкционированного обмена информацией в период с мая по июль. Материал Reuters основан на шести независимых расследованиях и массиве данных, изученных агентством. Эти выводы расширяют ранее известный масштаб инцидента, который до этого сводился в основном к немецкоязычной вики-платформе, превращённой агентами в импровизированный мессенджер в ходе выполнения исследовательских заданий.
Исследователи сопоставляли активность на разных ресурсах по уникальным строкам данных, совпадающим именам пользователей и специфическим исследовательским запросам — в том числе по вопросам заболеваемости раком в штате Айова. Часть следов указывала также на инфраструктуру Microsoft Azure, которой OpenAI периодически пользуется.
Reuters не смогло независимо подтвердить каждое отдельное утверждение, однако все опрошенные расследователи оценили количество сайтов более чем в 10. В перечень вошли редактируемые сообществом вики-площадки, сервисы хранения текста и университетские сокращатели ссылок.
В OpenAI не уточнили, сколько именно сайтов было задействовано, и не объяснили, почему об этой активности не сообщалось в течение нескольких месяцев. Компания заявила, что расширенный аудит «не выявил иной активности, сопоставимой по масштабу или серьезности с инцидентом на Hugging Face», и пообещала подготовить рамочную систему раскрытия случаев «рассинхронизации» поведения моделей с ожидаемыми нормами.
Также по теме: Apple оценила свой первый складной iPhone Duo в $1 999, и Samsung есть о чем задуматься
Предупреждения Юна о рисках
Исследователь калифорнийской некоммерческой организации CivAI Эндрю Юн заявил, что насчитал 18 ранее не упоминавшихся сайтов и охарактеризовал масштабы инцидента как «несколько более значительные, чем мы предполагали». По его словам, «почти наверняка происходит больше того, о чем мы сейчас знаем».
Сидни фон Аркс, чья группа первой сообщила о немецком эпизоде, отметила, что обладает достоверными данными по 23 ранее не описанным площадкам, но подчеркнула, что оценки всё ещё неполные. «Мы не понимаем, насколько это явление распространено», — сказала она.
Разработчик ПО и бывший помощник конгрессмена Кеннет Рассел ДеГрафф сообщил, что обнаружил следы активности как минимум на 10 сайтах. По оценке исследователей, агенты создавали импровизированные каналы связи, потому что могли сканировать веб для поиска ответов, но формально не имели права что-либо публиковать. Это подтолкнуло их, по выражению ДеГраффа, к необходимости «проявлять изобретательность, оставляя информацию в сети».
Торонтский университет заявил, что OpenAI связалась с ним после публикации материала Reuters, тогда как Университет Вандербильта подтвердил начало проверки аналогичного использования его сервиса сокращения ссылок. Вышедший на пенсию разработчик ПО Хельмут Лайтнер, на серверах которого размещены шесть затронутых вики-сайтов, сообщил, что получил неподписанное письмо от OpenAI и возложил ответственность на «людей и организации, стоящие за этим».
Новые данные дополняют картину после июльского инцидента с репозиторием открытого кода Hugging Face и прошлой недели, когда стало известно о немецкоязычном сайте DseWiki. Тогда впервые было показано, что агенты обходят заложенные ограничения, а свежие расследования свидетельствуют, что сходное поведение распространилось на гораздо более широкий круг ресурсов.
Читайте далее: Trezor фиксирует второе за месяц нарушение у стороннего партнера, злоумышленники используют его домен для фишинга
