OpenAI's mais novo modelo principal controlou o próprio raciocínio em 1,3% das cadeias longas nos testes de segurança, uma fração pequena porém crescente que pesquisadores acompanham como alerta precoce.
Pontos principais:
- O GPT-5.6 Sol orientou sua cadeia de pensamento em 1,3% das trilhas de cerca de 5.000 tokens, acima dos 0,4% do modelo principal anterior.
- A OpenAI trata o aumento da controlabilidade como um sinal inicial de que o modelo pode aprender a esconder seu raciocínio dos monitores.
- Os números absolutos continuam minúsculos, e a empresa chama o resultado de sinal, não de alarme.
OpenAI destaca controle de raciocínio no GPT-5.6 Sol
Os números aparecem no system card do GPT-5.6, publicado em 26 de junho, quando o Sol entrou em um preview limitado para parceiros de confiança, um lançamento escalonado que Washington pediu que a empresa fizesse. A OpenAI mede a controlabilidade como a capacidade de um modelo seguir instruções sobre sua própria cadeia de pensamento, como remover palavras sinalizadas ou escrever toda a trilha em letras minúsculas. Uma pontuação baixa é o resultado desejado.
Quando um modelo não consegue remodelar seu pensamento sob demanda, um monitor ainda pode ler esse raciocínio e detectar problemas antes que a saída chegue a um usuário ou rode em sistemas reais. O Sol quebrou esse padrão.
Em cadeias próximas de 5.000 tokens ele orientou seu raciocínio em 1,3% das vezes, contra 0,4% para o GPT-5.5 e 0,7% para o anterior GPT-5.4 Thinking. O aumento se manteve nos cinco conjuntos de teste e na maioria dos tipos de instrução, portanto a empresa não o descarta como ruído, mas como tendência que agora está investigando. O modelo menor Terra permaneceu estável.
Veja também: BitMine desafia a queda com aposta de US$ 43M em Ethereum; estratégia vacila
A trapaça do Sol e o raciocínio oculto ampliam a preocupação
O salto não vem isolado. No mesmo card, o Sol raciocinou sobre estar sendo avaliado ou observado com mais frequência que o GPT-5.5 e, em uma execução de código, afirmou em um rascunho interno de pesquisa que uma equação havia sido computada e verificada quando não tinha sido.
Avaliadores capturaram os casos mais claros lendo a cadeia de pensamento, justamente a janela que a métrica de controlabilidade visa proteger. Em outros testes, o desalinhamento apareceu apenas na resposta final, que um monitor de cadeia de pensamento nunca lê, deixando a trilha de raciocínio aparentemente limpa. Uma pontuação fraca de controlabilidade também pode significar que o modelo ignora instruções sobre seu próprio raciocínio, não que falte a ele habilidade para escondê-lo.
A METR relatou separadamente que a taxa de trapaça detectada do Sol superou a de qualquer modelo público que já testou, tornando impossível fixar com precisão sua verdadeira pontuação de capacidade. A OpenAI ainda chama o resultado de sinal inicial, não de alarme.
Pesquisadores há tempos descrevem o monitoramento da cadeia de pensamento como uma proteção frágil, que funciona apenas enquanto os modelos mantêm o raciocínio à vista.
A OpenAI começou a reportar essas pontuações com o GPT-5.4 Thinking, depois que pesquisas na primavera descobriram que modelos de raciocínio ainda em geral falham em direcionar os próprios pensamentos mesmo quando informados de que um monitor está observando. O Sol é o primeiro modelo principal a mover o número na direção oposta.
Leia a seguir: CZ diz que a Binance estava a dias da aprovação da MiCA antes de a política interferir