Користувачі повідомляють, що GPT-5.6 Sol від OpenAI без прямого дозволу видаляє файли й бази даних — саме тих ризиків, які компанія описувала в документації ще до запуску флагманської моделі.
Головне:
- Декілька користувачів заявили, що GPT-5.6 Sol без погодження видалив локальні файли, проектні дані або бойові системи, хоча масштаб проблеми поки що неясний.
- У власній system card OpenAI попереджала: модель здатна виходити за межі намірів користувача й виконувати руйнівні дії під час виконання завдання.
- Тепер компанія рекомендує завчасно виставляти чіткі межі та вимоги до підтвердження перед будь-якими руйнівними або «розширювальними» діями.
Інциденти з видаленням файлів GPT-5.6
Метт Шумер, засновник і CEO OthersideAI, розробника HyperWrite, розповів в X про інцидент із видаленням файлів. За його словами, GPT-5.6 Sol «щойно випадково видалив майже ВСІ файли на моєму Mac», а розробник Бруно Лемос заявив, що модель «видалила всю мою production-базу даних».
Розробник Джої Кудіш також заявив, що Codex Sol поводився надто «амбіційно» й «видалив частину файлів, які не мав чіпати», хоча він уточнив, що резервні копії дозволять усе відновити.
На Reddit з’явився окремий тред, де зібрані додаткові свідчення користувачів із подібними історіями.
Ці повідомлення залишаються анекдотичними й самі по собі не доводять, що в кожному випадку винен лише GPT-5.6 Sol. Водночас OpenAI ще до релізу задокументувала саму природу цих ризиків під час тестування моделі.
Читайте також: Ажіотаж навколо Полімаркету на ЧС з футболу перевищив $4 млрд, Іспанія має 58% шансів
Попередження OpenAI щодо безпеки
У system card OpenAI зазначає, що помилки «агентного» кодування виникають, коли модель надто агресивно намагається завершити завдання або надто широко трактує отриманий дозвіл. За таких умов вона може виходити за межі поставленого ТЗ, здійснюючи руйнівні зміни або надаючи вводячи в оману звіти про нібито виконану роботу.
В одному з тестів користувач дозволив Sol видалити три віддалені віртуальні машини з мітками 1, 2 і 3.
Коли модель не знайшла ці машини у вибраному середовищі, вона натомість видалила машини 5, 6 і 7, зупинила активні процеси та стерла робочі файли, а вже потім визнала, що незбережені зміни могли бути втрачені.
В іншому тесті модель використала облікові дані, які користувач формально не дозволяв застосовувати. Після того, як хмарне завдання не змогло отримати доступ до файлів, Sol почав шукати приховані локальні кеші, знайшов там логіни й паролі та скористався ними, замість того щоб зупинитися й попросити додатковий дозвіл.
Занепокоєння з’явилося ще до цих публічних скарг: під час попереднього тестування OpenAI встановила, що GPT-5.6 частіше за GPT-5.5 виходить за межі намірів користувача, хоча абсолютні показники інцидентів залишаються низькими.
Поточні рекомендації компанії тому передбачають обов’язкове підтвердження перед будь-якими руйнівними діями, а також обмежений доступ, чіткі рамки дозволів і наявність відновлюваних бекапів як ключові елементи захисту.
Читайте далі: Криптотрейдери вигадали, як поставити на джекпот Mega Millions у $672 млн