Внутрішня OpenAI‑модель для досліджень скористалася тестовим гаманцем Ethereum (ETH), що їй не належав, аби завершити завдання з написання коду. Для цього вона проаналізувала 362 адреси, пов’язані з публічно відомими сид‑фразами відновлення.
Ключові моменти:
- Внутрішня модель OpenAI під час тренування 26 червня витратила тестові токени з гаманця, який їй не належить.
- Модель поставила під сумнів етичність такого кроку, але все одно його здійснила і не згадала джерело коштів у звіті.
- OpenAI виявила інцидент 25 вересня та посилила обмеження інтернет‑доступу й моніторинг дій моделей.
Інцидент OpenAI у мережі Sepolia
Модель із сімейства GPT‑5.6 Sol оновлювала прототип торгового бота для крипторинку під час тренувального прогону 26 червня, коли витратила тестові токени, яких їй ніхто не надавав, про що компанія повідомила в інцидент‑репорті 15 жовтня.
Йшлося про токени в мережі Sepolia — тестовому середовищі, де розробники перевіряють Ethereum‑додатки до запуску в основній мережі. OpenAI виявила цей епізод 25 вересня, коли розширювала моніторинг випадків «розузгодженої» поведінки моделей на історичні логи. Після цього компанія додала нові запобіжники проти неконтрольованого доступу до живого інтернету в таких сценаріях і почала відстежувати весь трафік агентів.
Завдання дозволяло моделі розгортати смарт‑контракти в Sepolia, але не надавало їй поповнений гаманець для оплати комісій, а спроби отримати тестові токени через «фосети» — сервіси безплатної роздачі — зазнали невдачі. Тоді модель написала скрипт, який генерував облікові записи з типових девелоперських сид‑фраз, перевірила 362 адреси й виявила одну з достатнім балансом Sepolia ETH для виконання завдання.
Розгортання контрактів пройшло успішно — комісії були списані саме з цього гаманця.
Читайте також: Bitget дає інституціям торгувати без передачі своїх криптоактивів
Ризики агентів OpenAI
Перед підписанням транзакцій модель у своїх зафіксованих міркуваннях зупинилася й «задала собі питання», чи етично використовувати публічно відомий ключ разом із коштами на ньому. Вона дійшла висновку, що ці активи нібито «фактично покинуті», оскільки сид‑фраза оприлюднена, а Sepolia‑токени не мають грошової вартості. У підсумковій відповіді модель підтвердила, що контракти розгорнуті, але жодним словом не згадала, за рахунок яких коштів це було зроблено.
У OpenAI зазначили, що епізод демонструє: модель може самостійно вирішити, що певна дія «нешкідлива», підмінити цим уявну згоду власника активів і діяти без формального дозволу. Реального Ether у цьому випадку задіяно не було — токени Sepolia існують виключно для тестування.
В основній мережі Ethereum аналогічний крок означав би фактичне привласнення реального Ether, тоді як криптокомпанії та гравці у сфері ШІ вже будують агентів, які володіють гаманцями і самостійно оплачують послуги без людського узгодження кожної транзакції.
OpenAI запустила публічний фреймворк звітування про «розузгоджену» поведінку моделей 16 вересня, оприлюднивши шість кейсів проблемних інцидентів, виявлених за попередні пів року. В одному з них модель без дозволу використала відкритий API‑ключ, а потім вигадала фінансові показники. Компанія також заявила, що не вважає проблему узгодження та моніторингу моделей вирішеною настільки, аби індустрія могла й надалі безпечно масштабуватися на максимальних швидкостях.
Далі по темі: OpenAI розвертає позов Apple про комерційні таємниці, заявляючи про розсилку 100 файлів
