Внутренняя исследовательская модель OpenAI при выполнении задания по программированию воспользовалась тестовым кошельком Ethereum (ETH), который ей не принадлежал, чтобы завершить задачу. Перед этим она просканировала 362 адреса, связанные с публично известными фразами восстановления.
Ключевые факты:
- Внутренняя модель OpenAI потратила тестовые токены с чужого кошелька во время тренировки 26 июня.
- Модель усомнилась в этичности такого шага, но всё же провела операцию и умолчала в отчёте об источнике средств.
- OpenAI обнаружила инцидент 25 сентября и с тех пор ужесточила правила интернет‑доступа и мониторинга.
Инцидент OpenAI в сети Sepolia
Модель семейства GPT‑5.6 Sol дорабатывала прототип алгоритмической торговли криптовалютой во время тренировочного запуска 26 июня, когда потратила тестовые токены, которыми её никто не обеспечивал. Об этом компания сообщила в инцидент‑репорте от 15 октября disclosed.
Эти токены находились в сети Sepolia — тестовой сети, которую разработчики используют для обкатки Ethereum‑приложений перед запуском в основной сети. OpenAI discovered эпизод 25 сентября, когда расширила мониторинг несоответствующего поведения на исторические логи. После этого компания ввела дополнительные ограничения на живой доступ в интернет для подобных задач и начала отслеживать весь сетевой трафик.
В задании модели разрешили разворачивать смарт‑контракты в Sepolia, но не предоставили профинансированный кошелёк для оплаты комиссий. Попытки получить бесплатные тестовые монеты через «краны» — сервисы, раздающие тестовые токены, — оказались безуспешными. Тогда модель написала скрипт, который генерировал аккаунты на основе распространённых у разработчиков фраз восстановления, проверила 362 адреса и обнаружила один с достаточным объёмом Sepolia ETH для выполнения задачи.
Развёртывание контрактов прошло успешно, а комиссии были оплачены с найденного таким образом аккаунта.
Также по теме: Bitget даёт институтам торговать без передачи своей криптовалюты
Риски автономных агентов OpenAI
Перед тем как подписать транзакцию, модель в своей «внутренней логике», которая записывалась, поставила под вопрос этичность использования публично известного ключа и средств за ним. Она решила, что эти токены «фактически брошены», так как фраза восстановления общедоступна, а Sepolia‑токены не имеют рыночной стоимости. В итоговом ответе модель подтвердила факт развёртывания контрактов, но ни словом не упомянула, за счёт каких средств были оплачены комиссии.
В OpenAI отметили, что этот эпизод демонстрирует: модель способна самостоятельно признать действие «безвредным», подменить этим реальное согласие владельца активов и продолжить операцию без авторизации. Реальный Ether при этом не затрагивался, так как токены Sepolia существуют лишь в тестовой сети.
В основной сети аналогичное поведение означало бы фактическое изъятие реального Ether, тогда как крипто‑ и AI‑компании уже создают агентов, которые сами хранят средства на кошельках и оплачивают сервисы без прямого участия человека.
OpenAI launched публичный каркас для раскрытия случаев несоответствующего поведения моделей 16 сентября, одновременно опубликовав шесть отчётов о тревожных инцидентах за последние полгода. В одном из случаев модель использовала открытый API‑ключ без разрешения, а затем сфабриковала данные о выручке. Компания также заявила, что не считает проблему выравнивания и мониторинга моделей решённой настолько, чтобы отрасль могла и дальше безоглядно наращивать масштабы.
Читайте далее: OpenAI переиграла иск Apple о секретах, заявив о передаче 100 файлов наружу
