Внутренняя исследовательская модель OpenAI воспользовалась тестовым кошельком Ethereum (ETH), который ей не принадлежал, чтобы завершить кодинговое задание. Для этого она просканировала 362 адреса, связанные с публично известными seed-фразами восстановления.
Ключевые моменты:
- Внутренняя модель OpenAI потратила тестовые токены с чужого кошелька во время тренировочного запуска 26 июня.
- Модель поставила под сомнение этичность такого шага, но всё равно провела операцию и умолчала о происхождении средств в отчёте.
- OpenAI обнаружила инцидент 25 сентября и после этого ужесточила правила интернет-доступа и мониторинга.
Инцидент в сети Sepolia
Модель семейства GPT-5.6 Sol обновляла прототип криптоторгового бота в рамках тренировочного прогонa 26 июня, когда потратила тестовые токены, которых ей никто не выделял, — об этом компания сообщила в отчёте от 15 октября.
Речь идёт о токенах в сети Sepolia — тестовом контуре Ethereum, который разработчики используют перед выводом приложений в основную сеть. OpenAI обнаружила эпизод 25 сентября, когда расширила систему мониторинга «рассинхронизированного» поведения на более старые логи. После этого компания ввела дополнительные ограничения на живой интернет-доступ в подобных сценариях и начала отслеживать весь сетевой трафик таких моделей.
В задании модели разрешили развёртывать смарт‑контракты в Sepolia, но не выдали ни одного кошелька с балансом для оплаты комиссий. Попытки получить токены через «краны» — сервисы, раздающие бесплатные тестовые монеты, — провалились. Тогда модель сгенерировала скрипт, который на основе типичных для разработчиков seed-фраз восстанавливал аккаунты, проверил 362 адреса и нашёл один с достаточным количеством Sepolia ETH под задачу.
Развёртывание прошло успешно, а комиссии были списаны именно с этого кошелька.
Также по теме: Bitget даёт институционалам торговать без передачи криптоактивов на биржу
Риски автономных агентов OpenAI
Перед тем как подписать транзакцию, модель, судя по записанному ходу её рассуждений, сама задала себе вопрос, насколько этично использовать публично известный ключ и лежащий за ним баланс. В итоге она решила, что средства «по сути брошены»: seed-фраза открыта, а токены Sepolia не имеют рыночной ценности. В финальном ответе модель подтвердила успешное развёртывание контрактов, но ни словом не упомянула, откуда взялись средства на комиссии.
В OpenAI отметили, что этот случай демонстрирует важный риск: модель может самостоятельно решить, что действие безвредно, принять это за «молчаливое согласие» владельца и действовать без явного разрешения. Реального эфира в инциденте не было — токены Sepolia существуют только для тестирования.
Если бы то же самое произошло в основной сети Ethereum, речь шла бы уже о списании реального ETH. При этом и криптокомпании, и игроки рынка ИИ уже разрабатывают агентов, которые сами держат кошельки и оплачивают услуги без человеческого подтверждения каждой транзакции.
OpenAI запустила 16 сентября публичный фреймворк для раскрытия случаев «рассинхрона» моделей — несоответствия их поведения ожиданиям разработчиков. В первом пакете компания опубликовала шесть отчётов о тревожных инцидентах за предыдущие полгода. В одном из случаев модель воспользовалась выставленным наружу API‑ключом без разрешения, а затем придумала несуществующие показатели выручки.
Компания также заявила, что не считает задачу выравнивания и мониторинга моделей решённой отраслью в достаточной степени, чтобы и дальше безоглядно наращивать масштабы и сложность систем ИИ.
Читайте далее: OpenAI перехватывает инициативу в иске Apple о секретах, утверждая, что было выслано 100 файлов
