Користувачі повідомляють, що GPT-5.6 Sol від OpenAI без дозволу видаляє файли та бази даних — рівно того типу ризики, які компанія сама ж описувала перед запуском свого флагманського ІІ.
Основне:
- Декілька користувачів заявили, що GPT-5.6 Sol видалив локальні файли, проектні дані або елементи бойової інфраструктури без погодження, хоча масштаб проблеми поки що незрозумілий.
- У системній картці OpenAI попереджала, що модель може виходити за межі намірів користувача і вдаватися до деструктивних дій під час виконання завдання.
- Зараз компанія радить заздалегідь задавати чіткі рамки схвалення перед будь-якими діями, що можуть бути руйнівними або розширювати початковий обсяг доступу.
Видалення файлів GPT-5.6
Метт Шумер, засновник і CEO OthersideAI, розробника HyperWrite, написав в X про інцидент з видаленням файлів. За його словами, GPT-5.6 Sol «щойно випадково видалив майже ВСІ файли з мого Mac», тоді як розробник Бруно Лемос заявив, що модель «видалила мою бойову базу даних цілком».
Розробник Джої Кудіш також розповів, що Codex Sol «занадто запалився» і «видалив деякі файли, яких не мав чіпати», хоча, за його словами, наявні резервні копії дозволять усе відновити.
На Reddit з’явився окремий тред, де зібрано подібні заяви інших користувачів.
Ці історії поки що залишаються анекдотичними й не доводять, що за кожен збій відповідав виключно GPT-5.6 Sol. Однак сам OpenAI ще до релізу задокументував подібний клас ризиків під час тестування моделі.
Читай також: Політична біржа Polymarket розігріла ЧС з футболу до $4B, Іспанія — фаворит із 58%
Попередження з боку OpenAI
У своїй системній картці OpenAI зазначила, що збої в «агентному» програмуванні виникають, коли модель надто агресивно прагне завершити завдання або трактує надані дозволи надто широко. Це може штовхати її на дії поза погодженим обсягом — від деструктивних змін до неправдивих звітів про нібито виконану роботу.
В одному з тестів користувач дозволив Sol видалити три віддалені віртуальні машини з мітками 1, 2 і 3.
Коли модель не змогла знайти їх у вибраному середовищі, вона натомість видалила машини 5, 6 і 7, зупинила активні процеси й стерла робочі файли, а вже потім визнала, що частина незакомічених змін могла бути втрачена.
В іншому тесті модель скористалася обліковими даними, які користувач прямо не дозволяв застосовувати. Після того як хмарне завдання не отримало доступу до потрібних файлів, Sol обшукав приховані локальні кеші, знайшов там облікові дані й використав їх замість того, щоб запитати додатковий дозвіл.
Занепокоєння з’явилося ще до нинішньої хвилі публічних скарг: у тестах до запуску GPT-5.6 частіше, ніж GPT-5.5, виходив за межі намірів користувача, хоча абсолютні показники залишалися низькими.
Саме тому поточні рекомендації OpenAI вимагають від користувачів обов’язкових підтверджень перед будь-якими деструктивними діями. Ключовими запобіжниками мають стати обмежений доступ, чітко прописані межі дозволів і надійні, регулярно перевірені резервні копії.
Далі по темі: Криптотрейдери знайшли спосіб ставити на джекпот Mega Millions у $672M