Três pesquisadores demitidos pela OpenAI pediram ao conselho da empresa, em uma carta de 7 de outubro, que interrompesse projetos que tornam a inteligência artificial mais difícil de monitorar. Um memorando interno da companhia foi na mesma direção e respaldou as recomendações.
Pontos-chave:
- Três pesquisadores desligados da OpenAI enviaram em 7 de outubro uma carta ao conselho pedindo a suspensão de trabalhos que reduzem a capacidade de monitorar a IA.
- A OpenAI afirma que as demissões não tiveram relação com questões de segurança, mas um memo interno “concordou fortemente” com as recomendações da carta.
- O system card do GPT-6 Astra afirma que o modelo é mais difícil de monitorar do que o GPT-5.6 Sol.
Detalhes da carta ao conselho da OpenAI
Tomek Korbak, Mikita Balesni e Jasmine Wang, que atuavam em segurança e alinhamento de modelos na empresa, endereçaram a carta ao conselho da OpenAI e a seus comitês de segurança, segundo trechos divulgados na quarta-feira.
O texto completo não foi tornado público. Nos trechos conhecidos, os pesquisadores escrevem que, “como setor, ainda não sabemos desenvolver e implantar modelos que não conseguimos monitorar de forma segura”.
Eles defendem que a OpenAI e seus concorrentes não avancem em linhas de pesquisa que reduzam ainda mais essa capacidade. Segundo reportagens, a carta também pede que a OpenAI trabalhe com auditores independentes e apoie um ecossistema de segurança mais aberto e transparente, além de afirmar que as demissões produzem um “efeito inibidor sobre quem continua na OpenAI”.
Veja também: CrowdStrike suspeita que jovem de 26 anos na China hackeou bancos coreanos com código do Claude
Memo interno da OpenAI e demissões
Um porta-voz da OpenAI afirmou que as demissões “não tiveram relação com levantar preocupações de segurança ou se manifestar publicamente”. Ele compartilhou parte de um memorando interno, enviado na quarta-feira por um líder de pesquisa, que “concordava fortemente” com as recomendações da carta. Em 1º de outubro, a OpenAI informou que uma investigação interna concluiu que três funcionários haviam tratado informações sensíveis de forma inadequada e violado políticas da empresa, em um caso envolvendo um grupo externo que avalia modelos de IA.
A companhia não revelou publicamente o nome dos pesquisadores nem o da organização envolvida.
Preocupações com o monitoramento do GPT-6 Astra
O “chain of thought” (cadeia de raciocínio) é o passo a passo que o modelo escreve antes de responder, e que as equipes de segurança analisam em busca de sinais de intenção de mau uso ou comportamento desviado.
O system card do GPT-6 Astra, publicado em 3 de setembro, afirma que o modelo é mais difícil de monitorar por esse método do que o GPT-5.6 Sol e mais capaz de controlar sua própria cadeia de raciocínio. Modelos da classe Astra “podem escapar dos nossos monitores de CoT em condições adversariais”, diz o documento.
As conclusões se baseiam principalmente em testes que instruíam o modelo a tentar driblar o monitoramento, e a OpenAI relatou não ter encontrado evidências de que o Astra esteja escondendo deliberadamente seu raciocínio em textos aparentemente não relacionados.
A empresa descreve a preservação desse tipo de monitoramento como um objetivo central de pesquisa e afirma que não aceitará perdas adicionais nessa capacidade além de um certo limite sem desenvolver novas formas de demonstrar que seus modelos permanecem alinhados.
Os três pesquisadores já vinham se destacando nesse debate. Korbak e Balesni lideraram um artigo publicado em julho de 2025, coassinado por Wang e por pesquisadores da OpenAI, Google DeepMind e Anthropic, que descreve o monitoramento via cadeia de raciocínio como uma oportunidade nova e frágil para reforçar a segurança da IA. O system card do Astra cita esse estudo, que recomenda que desenvolvedores considerem com cuidado como suas decisões de arquitetura impactam a capacidade de monitorar o raciocínio interno dos modelos.
Leia a seguir: Agentes de IA sem nuvem: Microsoft e Nvidia preparam Surface Laptop com 128 GB
