OpenAI está a testar um sistema de segurança que deteta usos indevidos sem conservar dados de clientes, um desafio direto à nova regra de retenção de 30 dias da rival Anthropic.
Principais pontos:
- A OpenAI está a pré-estrear o Private Safety Processing, ferramenta que procura padrões de abuso em sessões relacionadas sem reter prompts ou respostas.
- A Anthropic exige que clientes empresariais dos seus modelos mais avançados guardem dados por 30 dias, alegando que os registos são vitais para apanhar ataques em múltiplas etapas.
- Um lançamento mais amplo e um white paper técnico estão previstos para setembro.
Private Safety Processing mira abusos em várias sessões
A empresa anunciou a pré-estreia na quarta‑feira, apresentando o sistema como uma extensão do Zero Data Retention, o acordo que impede a OpenAI de manter prompts ou respostas do modelo depois de concluído cada pedido. Uma adoção mais ampla e um white paper técnico estão planeados para setembro.
Pelo novo modelo, o conteúdo dos clientes ou permanece em infraestrutura sob controlo do próprio cliente ou fica armazenado na OpenAI de forma encriptada, com chaves detidas exclusivamente pelo utilizador empresarial. Ferramentas automatizadas analisam esse conteúdo em busca de padrões de abuso ao longo de sessões relacionadas. A arquitetura também abrange trabalho “agente”, em que o sistema continua a atuar mesmo depois de o utilizador ter mandado parar. Nenhum funcionário tem acesso direto a esses dados.
Aleah Houze, responsável pela política de produto da OpenAI, disse a jornalistas que comportamentos perigosos muitas vezes só ficam claros quando várias interações são avaliadas em conjunto. Como exemplo, citou um utilizador que, numa conversa, explora vulnerabilidades de software e, noutra, pede informações sobre ferramentas de acesso remoto.
Leia também: A Marca d’Água Oculta do Claude Deturpa a Arte de Escrever, Diz Gruber
Regra de retenção da Anthropic abre fratura entre rivais
Em julho, a Anthropic adotou a estratégia inversa, impondo uma retenção mínima de 30 dias para dados de clientes empresariais que usem os seus modelos mais potentes, como Fable 5 e Mythos 5.
O laboratório admitiu que a política seria impopular e poderia prejudicar o negócio, mas classificou os registos como essenciais para detetar ataques cuidadosamente espalhados por múltiplos pedidos separados. A revisão humana continua possível, porém apenas por um canal controlado, acessível a um grupo restrito de avaliadores autorizados. Cada sessão é registada num log inviolável.
Analistas questionam timing e evidências da OpenAI
Brian Levine, diretor executivo da FormerGov, classificou o compromisso como uma promessa técnica forte, já que, historicamente, monitorização de abusos e “cegueira” ao conteúdo tendem a puxar em direções opostas.
Ele chamou a atenção para o facto de as provas concretas só chegarem semanas depois. Jason Andersen, da Moor Insights and Strategy, leu os anúncios da semana também como um movimento de posicionamento antes de uma potencial oferta pública inicial.
Flavio Villanustre, diretor de segurança da informação do LexisNexis Risk Solutions Group, viu na iniciativa uma tentativa de suavizar o tipo de regulação que considera inevitável.
A pré‑estreia encerra uma semana dominada por mensagens de segurança. Na terça‑feira, a empresa informou ter abrandado o ritmo de expansão e pausado o treino de reinforcement learning enquanto reforça e submete o seu ambiente de pesquisa a testes de intrusão. A OpenAI estimou ainda que a monitorização alargada consumirá cerca de 20% da capacidade de inferência sob vigilância.
Leia a seguir: Bitcoin Pode Voltar a $100 Mil Antes do Halving de 2028, Diz Scaramucci
