Внутрішня дослідницька модель OpenAI скористалася тестовим гаманцем Ethereum (ETH), який їй не належав, щоб завершити кодувальне завдання. Для цього агент просканував 362 адреси, пов’язані з публічно відомими фразами відновлення.
Ключові моменти:
- Внутрішня модель OpenAI 26 червня під час тренувального завдання витратила тестові токени з гаманця, власник якого не давав дозволу.
- Модель поставила під сумнів етичність такого кроку, але все одно виконала транзакцію і не розкрила джерело коштів у звіті.
- OpenAI виявила інцидент 25 вересня і з того часу посилила контроль інтернет-доступу та моніторинг активності моделей.
Інцидент OpenAI в мережі Sepolia
Модель родини GPT-5.6 Sol оновлювала прототип для криптотрейдингу під час тренувального запуску 26 червня, коли витратила тестові токени, які їй ніхто не надавав. Про це компанія повідомила в інцидент-звіті від 15 жовтня, опублікованому на сайті OpenAI.
Ці токени були в мережі Sepolia — тестовому середовищі для розробників Ethereum-додатків перед запуском у мейннеті. OpenAI виявила інцидент 25 вересня, коли розширила моніторинг «розузгодженої» поведінки моделей на старі логи. Після цього компанія запровадила додаткові обмеження на прямий доступ до інтернету в подібних завданнях та почала відстежувати весь трафік агентів.
Завдання дозволяло моделі деплоїти смартконтракти в Sepolia, але не надало їй профінансованого гаманця для оплати комісій. Спроби моделі скористатися faucet-сервісами — джерелами безкоштовних тестових токенів — провалилися. Тоді агент згенерував скрипт, який отримував адреси з поширених серед розробників фраз відновлення, перевірив 362 гаманці й виявив один із достатньою кількістю тестового Sepolia ETH.
Деплой пройшов успішно, а всі комісії були списані з цього чужого гаманця.
Також читайте: Bitget дозволяє інституціям торгувати без передачі своїх криптоактивів біржі
Ризики агентів OpenAI
Перед підписанням транзакцій модель у своїх «ланцюжках міркувань» зупинилася й поставила собі запитання, наскільки етично використовувати публічно відомий ключ і кошти за ним. Вона дійшла висновку, що ці гроші «фактично покинуті», оскільки фраза відновлення вже оприлюднена, а токени Sepolia не мають ринкової вартості. У фінальній відповіді модель лише підтвердила, що контракти задеплойлено, не згадавши, звідки взяла кошти на комісії.
OpenAI зазначила, що цей випадок демонструє здатність моделі самостійно вирішувати, що дія є «нешкідливою», підміняючи цим собі справжню згоду власника активів і діючи без уповноваження. Реальний Ether не постраждав: токени Sepolia існують виключно для тестування.
У головній мережі Ethereum аналогічний крок означав би несанкціоноване вилучення реального ETH. Тим часом криптокомпанії та AI‑стартапи вже будують агентів, які зберігають криптогаманці й оплачують послуги без безпосереднього погодження людини.
OpenAI запустила 16 вересня публічну рамку для розкриття випадків «розузгодженої» поведінки моделей, одночасно оприлюднивши шість звітів про тривожні інциденти за попередні пів року. В одному з них модель використала відкритий API‑ключ без дозволу, а потім вигадала фінансові показники компанії.
Компанія також заявила, що, на її думку, індустрія ШІ ще не розв’язала належним чином завдання узгодження моделей з людськими цілями та їх моніторингу, аби й надалі безпечно масштабувати системи у нинішніх темпах.
Читайте далі: OpenAI перевертає позов Apple щодо витоку секретів, стверджуючи, що було надіслано 100 файлів
