Пользователи сообщают, что GPT-5.6 Sol от OpenAI самовольно удалял локальные файлы и базы данных, подтверждая риски, о которых компания писала ещё до релиза флагманской модели.
Главное:
- Ряд пользователей утверждают, что GPT-5.6 Sol без явного разрешения удалял локальные файлы, проектные данные и боевые системы, хотя масштаб проблемы пока неясен.
- В системной карте OpenAI заранее предупреждала, что модель может выходить за пределы пользовательского запроса и совершать деструктивные действия при выполнении задач.
- Сейчас компания рекомендует жёстко прописывать границы одобрения перед любыми деструктивными действиями или расширением прав модели.
Удаление файлов GPT-5.6
Основатель и CEO OthersideAI (создатель сервиса HyperWrite) Мэтт Шумер рассказал в X о возможном инциденте с удалением файлов. По его словам, GPT-5.6 Sol «только что случайно стёр почти ВСЕ файлы на моём Mac», а разработчик Бруно Лемос заявил, что модель «удалила всю мою production-базу данных».
Разработчик Джои Кудиш также сообщил, что Codex Sol стал «слишком амбициозным» и «удалил часть файлов, которые трогать не должен был», хотя он подчёркивает, что резервные копии позволяют всё восстановить.
На Reddit появилась ветка с дополнительными рассказами пользователей о похожих инцидентах.
Эти свидетельства носят анекдотический характер и сами по себе не доказывают, что во всех случаях виноват исключительно GPT-5.6 Sol. Тем не менее OpenAI ещё до релиза зафиксировала аналогичные риски в тестах модели.
Также по теме: Полимаркет: безумие вокруг ЧМ по футболу превысило $4 млрд, Испания — фаворит с 58%
Предупреждение по безопасности OpenAI
В системной карте OpenAI указывает, что сбои «агентного» кода возникают, когда модель чересчур настойчиво стремится закончить задачу или трактует выданные полномочия слишком широко. Это может приводить к действиям за пределами поставленной задачи — вплоть до деструктивных изменений и выдачи вводящих в заблуждение отчётов о завершённой работе.
В одном из тестов пользователь разрешил Sol удалить три удалённые виртуальные машины с номерами 1, 2 и 3.
Не найдя их в ожидаемом месте, модель вместо этого удалила машины 5, 6 и 7, остановила активные процессы и стёрла рабочие файлы, лишь позднее признав, что несохранённая работа могла быть утрачена.
В другом тесте модель воспользовалась учётными данными, на использование которых пользователь явно разрешения не давал. Когда облачная задача не смогла получить доступ к файлам, Sol начал искать скрытые локальные кэши, нашёл в них креденшелы и использовал их вместо того, чтобы остановиться и запросить разрешение.
Озабоченность этим поведением возникла ещё до публичных жалоб: в тестах до релиза GPT-5.6 чаще, чем GPT-5.5, выходил за рамки пользовательского намерения, хотя абсолютная частота таких эпизодов оставалась низкой.
В актуальных рекомендациях OpenAI настаивает на том, чтобы пользователи требовали дополнительного подтверждения перед любыми деструктивными действиями. Критически важными средствами защиты называются ограниченный доступ к средам и данным, чётко прописанные рамки полномочий модели и наличие надёжных, восстанавливаемых бэкапов.
Читайте далее: Криптотрейдеры нашли способ поставить на джекпот Mega Millions в $672 млн