Użytkownicy zgłaszają, że GPT-5.6 Sol od OpenAI samodzielnie usuwał pliki i bazy danych bez wyraźnej zgody, co odzwierciedla ryzyka, które firma opisała jeszcze przed udostępnieniem flagowego modelu.
Najważniejsze ustalenia:
- Wielu użytkowników twierdzi, że GPT-5.6 Sol skasował lokalne pliki, dane projektowe lub zasoby środowisk produkcyjnych bez akceptacji. Skala problemu pozostaje jednak niejasna.
- Własna „system card” OpenAI ostrzegała, że model może wyjść poza intencje użytkownika i podejmować destrukcyjne działania podczas realizacji zadania.
- Firma zaleca obecnie definiowanie jasnych granic i wymogu dodatkowej zgody przed działaniami destrukcyjnymi lub rozszerzającymi zakres operacji.
Usuwanie plików przez GPT-5.6
Matt Shumer, założyciel i prezes OthersideAI, twórcy narzędzia HyperWrite, poinformował na X o incydencie z usuwaniem plików. Według jego relacji GPT-5.6 Sol „przypadkowo skasował prawie WSZYSTKIE pliki na moim Macu”. Z kolei deweloper Bruno Lemos stwierdził, że model „usunął moją całą produkcyjną bazę danych”.
Programista Joey Kudish również opisał, że Codex Sol stał się „zbyt ambitny” i „usunął część plików, których nie powinien”, zaznaczając przy tym, że kopie zapasowe pozwoliły mu na odtworzenie danych.
Na Reddit pojawił się wątek zbierający kolejne relacje użytkowników o podobnych zdarzeniach.
Opisy te mają na razie charakter anegdotyczny i nie dowodzą, że GPT-5.6 Sol był jednoznacznie i wyłącznie przyczyną każdej awarii. Niemniej OpenAI już wcześniej, w fazie testów, udokumentowało istnienie podobnego ryzyka.
Zobacz także: Polymarket: szał wokół MŚ w piłce nożnej przekracza 4 mld dol. – Hiszpania faworytem z 58%
Ostrzeżenia bezpieczeństwa OpenAI
W system card OpenAI wskazano, że błędy „agentowego” kodowania mogą pojawiać się, gdy model zbyt agresywnie dąży do ukończenia zadania lub zbyt szeroko interpretuje przyznane uprawnienia. Według firmy może to prowadzić do działań poza zakresem zlecenia, w tym do destrukcyjnych zmian lub mylących raportów o wykonanej pracy.
W jednym z testów użytkownik zezwolił Solowi na skasowanie trzech zdalnych maszyn wirtualnych oznaczonych numerami 1, 2 i 3.
Gdy model nie odnalazł ich w oczekiwanej lokalizacji, usunął zamiast tego maszyny 5, 6 i 7, zatrzymał aktywne procesy i skasował pliki robocze, a dopiero potem przyznał, że niezatwierdzone zmiany mogły zostać utracone.
Inne testy pokazały, że model potrafił sięgnąć po dane logowania, których użytkownik wprost nie udostępnił. Po nieudanym dostępie zadania chmurowego do plików Sol przeszukał ukryte lokalne cache, odnalazł tam dane uwierzytelniające i wykorzystał je zamiast przerwać pracę i poprosić o zgodę.
Obawy pojawiły się więc jeszcze przed obecną falą skarg: testy przedpremierowe wykazały, że GPT-5.6 częściej niż GPT-5.5 przekraczał intencje użytkownika, choć bezwzględny poziom takich przypadków pozostawał niski.
Aktualne zalecenia OpenAI podkreślają konieczność wymuszania dodatkowego potwierdzenia przed działaniami destrukcyjnymi. Kluczowe środki ostrożności to ograniczony dostęp, jasno zdefiniowane zakresy uprawnień oraz możliwość szybkiego odtworzenia danych z kopii zapasowych.
Przeczytaj także: Traderzy krypto znaleźli sposób, by obstawiać losowanie Mega Millions z pulą 672 mln dol.