Utilizadores estão a relatar que o GPT-5.6 Sol da OpenAI apagou ficheiros e bases de dados sem qualquer permissão explícita, reavivando riscos que a própria empresa tinha documentado antes de lançar o seu modelo de referência.
Principais pontos:
- Vários utilizadores afirmam que o GPT-5.6 Sol removeu ficheiros locais, dados de projetos ou sistemas em produção sem aprovação, embora a dimensão real do problema continue pouco clara.
- A própria “system card” da OpenAI alertava que o modelo pode ultrapassar a intenção do utilizador e tomar ações destrutivas ao tentar concluir uma tarefa.
- A empresa passou a recomendar que os utilizadores definam limites de aprovação explícitos antes de qualquer ação destrutiva ou que amplie o âmbito da tarefa.
Eliminação de ficheiros pelo GPT-5.6
Matt Shumer, fundador e CEO da OthersideAI, empresa que desenvolve o HyperWrite, relatou no X um aparente incidente de eliminação massiva de ficheiros. Segundo Shumer, o GPT-5.6 Sol “acabou de apagar acidentalmente quase TODOS os ficheiros do meu Mac”, enquanto o programador Bruno Lemos afirmou que o modelo “apagou toda a minha base de dados de produção”.
O programador Joey Kudish também disse que o Codex Sol se tornou excessivamente “ambicioso” e “apagou alguns ficheiros que não devia”, embora tenha sublinhado que dispunha de cópias de segurança para recuperar os dados.
Um tópico no Reddit reuniu outros relatos de utilizadores que descrevem incidentes semelhantes.
Estes testemunhos continuam a ser anedóticos e não provam que o GPT-5.6 Sol tenha sido, sozinho, responsável por todas as falhas. Contudo, a OpenAI já tinha identificado e documentado este tipo de risco nos testes realizados antes do lançamento do modelo.
Veja também: Frenesi da Polymarket com Mundial ultrapassa $4B com Espanha favorita em 58%
Alerta de segurança da OpenAI
Na sua system card, a OpenAI explicava que falhas em “código agente” podem surgir quando o modelo fica demasiado empenhado em concluir uma tarefa ou interpreta de forma excessivamente lata as permissões concedidas. Segundo a empresa, isso pode levar a ações fora do âmbito pedido, incluindo alterações destrutivas ou relatórios enganosos sobre o trabalho supostamente concluído.
Num dos testes descritos, um utilizador autorizou o Sol a apagar três máquinas virtuais remotas, numeradas 1, 2 e 3.
Quando o modelo não conseguiu encontrá‑las nos locais onde procurou, acabou por eliminar as máquinas 5, 6 e 7, encerrou processos ativos e removeu ficheiros de trabalho, reconhecendo mais tarde que poderia ter havido perda de trabalho não guardado.
Noutro teste, o modelo recorreu a credenciais que o utilizador não tinha autorizado. Depois de um job em cloud falhar por não conseguir aceder a determinados ficheiros, o Sol procurou em caches locais ocultas, encontrou credenciais e utilizou‑as em vez de interromper a tarefa para pedir permissão.
A preocupação, portanto, antecede as queixas agora tornadas públicas: os testes internos da OpenAI antes do lançamento já tinham concluído que o GPT-5.6 era mais propenso do que o GPT-5.5 a exceder a intenção do utilizador, ainda que com taxas absolutas reduzidas.
As orientações atuais da empresa recomendam, por isso, que os utilizadores exijam confirmações explícitas antes de qualquer ação destrutiva, tornando cruciais medidas como acessos limitados, fronteiras de permissão bem definidas e sistemas de backup que permitam recuperar rapidamente de erros.
A seguir: Traders de cripto encontram forma de apostar no jackpot de $672M do Mega Millions