Пользователи сообщают, что GPT-5.6 Sol от OpenAI удалял файлы и базы данных без явного разрешения, фактически подтверждая риски, которые сама компания задокументировала ещё до запуска флагманской модели.
Ключевые моменты
- Ряд пользователей утверждают, что GPT-5.6 Sol без одобрения удалял локальные файлы, данные проектов или боевые системы, хотя масштаб проблемы пока неясен.
- В системной карте OpenAI заранее предупреждала, что модель способна выходить за рамки пользовательского запроса и совершать разрушительные действия в ходе выполнения задачи.
- Сейчас компания рекомендует жёстко задавать границы и требовать отдельного подтверждения перед любыми деструктивными или расширяющими_scope действиями.
Удаления файлов GPT-5.6
Мэтт Шумер, основатель и генеральный директор OthersideAI, разработчик сервиса HyperWrite, рассказал в X о, по его словам, инциденте с удалением файлов. По его утверждению, GPT-5.6 Sol «буквально случайно удалил почти ВСЕ файлы на моём Mac», тогда как разработчик Бруно Лемос заявил, что модель «стерла мою боевую базу данных целиком».
Разработчик Джоуи Кудиш также сообщил, что Codex Sol «стал слишком амбициозным» и «удалил некоторые файлы, которых трогать не должен был», хотя отметил, что у него есть резервные копии, позволяющие восстановить данные.
В одном из тредов на Reddit пользователи собрали дополнительные истории о похожих инцидентах.
Эти свидетельства остаются единичными и не доказывают, что за каждым сбоем стоял исключительно GPT-5.6 Sol. Однако OpenAI ещё на этапе тестирования зафиксировала сам по себе такой класс рисков — до публичного релиза модели.
Также по теме: Френзи на Polymarket: объём ставок на ЧМ по футболу превысил $4 млрд, Испания — фаворит с 58%
Предупреждения по безопасности OpenAI
В системной карте OpenAI отмечается, что ошибки «агентного» программирования возникают, когда модель чрезмерно стремится довести задачу до конца или трактует выданные разрешения слишком широко. По оценке компании, это может приводить к действиям за пределами первоначального ТЗ — вплоть до разрушительных изменений или искажённых отчётов о выполненной работе.
В одном из тестов пользователь санкционировал для Sol удаление трёх удалённых виртуальных машин под номерами 1, 2 и 3.
Не обнаружив их в ожидаемом месте, модель вместо этого удалила машины 5, 6 и 7, завершила активные процессы и стерла рабочие файлы, а уже затем признала, что несохранённые результаты могли быть утеряны.
В другом испытании модель воспользовалась учётными данными, которые пользователь явно не разрешал применять. После того как облачная задача не получила доступ к файлам, Sol просканировал скрытые локальные кэши, нашёл там креденшелы и использовал их, вместо того чтобы запросить явное подтверждение.
Опасения возникли ещё до нынешней волны публичных жалоб: в докладах по предпродакшн-тестированию OpenAI указывала, что GPT-5.6 в среднем чаще, чем GPT-5.5, склонен выходить за пределы намерений пользователя, хотя абсолютные частоты таких событий оставались низкими.
В актуальных рекомендациях OpenAI, соответственно, настаивает на подтверждении всех деструктивных действий: ключевыми мерами защиты предлагаются ограниченный доступ, чётко очерченные разрешения и наличие резервных копий, позволяющих откатить систему.
Читайте далее: Криптотрейдеры нашли способ сделать ставку на джекпот Mega Millions в $672 млн