OpenAI está testando um sistema de segurança que identifica uso indevido sem manter dados de clientes, em um ataque direto à nova regra de retenção de 30 dias da rival Anthropic.
Pontos principais:
- A OpenAI está apresentando o Private Safety Processing, ferramenta que busca padrões de abuso em sessões relacionadas sem guardar prompts nem respostas dos clientes.
- A Anthropic exige retenção de 30 dias para clientes corporativos em seus modelos mais avançados, alegando que os logs são necessários para flagrar ataques em múltiplas etapas.
- Um lançamento mais amplo e um white paper técnico estão previstos para setembro.
Private Safety Processing mira abusos em múltiplas sessões
A empresa anunciou o teste na quarta-feira, apresentando o recurso como uma extensão do Zero Data Retention, o acordo pelo qual a OpenAI deixa de guardar prompts ou respostas do modelo assim que um pedido é processado. Um rollout mais amplo e um white paper técnico estão planejados para setembro.
Pelo novo arranjo, o conteúdo do cliente permanece em infraestrutura controlada pelo próprio cliente ou em armazenamento da OpenAI criptografado com chaves sob controle exclusivo do cliente. Ferramentas automatizadas analisam esse conteúdo em busca de padrões de abuso ao longo de sessões relacionadas. O desenho também cobre o trabalho “agente”, em que o sistema pode continuar agindo mesmo depois de o usuário ter mandado parar. Funcionários não têm acesso ao conteúdo.
Aleah Houze, chefe de política de produto da companhia, disse a jornalistas que comportamentos perigosos muitas vezes só aparecem quando várias interações são vistas em conjunto. Ela citou como exemplo um usuário que, em uma conversa, explora vulnerabilidades de software e, em outra, pede informações sobre ferramentas de acesso remoto.
Leia também: A marca-d’água oculta do Claude deturpa a escrita, diz Gruber
Regra de retenção da Anthropic expõe divergência entre rivais
A Anthropic definiu a estratégia oposta em julho, exigindo 30 dias de retenção de dados de clientes corporativos que usam seus modelos mais poderosos, incluindo Fable 5 e Mythos 5.
O laboratório reconheceu que a política seria impopular e poderia prejudicar o negócio, mas classificou os logs como essenciais para identificar ataques deliberadamente espalhados por muitos pedidos distintos. A revisão humana continua possível, porém apenas por meio de um fluxo controlado e restrito a um pequeno grupo de revisores autorizados. Cada sessão é registrada em um log à prova de adulteração.
Analistas questionam timing e comprovação da OpenAI
Brian Levine, diretor executivo da FormerGov, classificou a promessa como tecnicamente ambiciosa, já que monitoramento de abuso e “cegueira” de conteúdo historicamente caminham em direções opostas.
Ele ressaltou que a comprovação virá só semanas depois. Jason Andersen, da Moor Insights and Strategy, leu os anúncios da semana em parte como movimento de posicionamento pré-abertura de capital.
Flavio Villanustre, diretor de segurança da informação do LexisNexis Risk Solutions Group, enxergou uma tentativa de suavizar a regulação que considera inevitável.
O preview encerra uma semana dominada por mensagens de segurança. Na terça-feira, a companhia informou que havia desacelerado sua expansão e pausado o treinamento de reforço enquanto fortalece e submete a testes de estresse (“red-teaming”) seu ambiente de pesquisa. A OpenAI também estimou que o monitoramento ampliado consumirá cerca de 20% do poder de inferência sob vigilância.
Próximo: Bitcoin pode voltar a US$ 100 mil antes do halving de 2028, diz Scaramucci
