OpenAI está testando um sistema de segurança que detecta uso indevido sem reter dados de clientes, em um desafio direto à nova regra de retenção de 30 dias da rival Anthropic.
Principais pontos:
- A OpenAI está apresentando o Private Safety Processing, ferramenta que identifica padrões de abuso em sessões relacionadas sem guardar prompts nem respostas dos clientes.
- A Anthropic exige retenção de 30 dias para clientes corporativos que usam seus modelos mais avançados, alegando que os registros são essenciais para capturar ataques em múltiplas etapas.
- Um lançamento mais amplo e um white paper técnico estão previstos para setembro.
Private Safety Processing mira abusos em múltiplas sessões
A empresa anunciou o teste na quarta-feira, apresentando-o como uma extensão do Zero Data Retention, o acordo que impede a OpenAI de manter prompts ou respostas do modelo após o processamento da requisição. Um rollout mais amplo e um white paper técnico estão planejados para setembro.
No novo arranjo, o conteúdo do cliente permanece em infraestrutura controlada pelo próprio cliente ou é guardado nos servidores da OpenAI, mas criptografado com chaves sob controle exclusivo do usuário corporativo. Ferramentas automatizadas examinam esse material em busca de padrões de abuso em sessões relacionadas. O desenho também contempla o chamado trabalho “agêntico”, em que o sistema continua agindo mesmo depois de o usuário mandar parar. Funcionários não têm acesso ao conteúdo.
Aleah Houze, chefe de política de produto da companhia, disse a repórteres que comportamentos perigosos muitas vezes só aparecem com clareza quando várias interações são analisadas em conjunto. Ela citou como exemplo um usuário que, em uma conversa, testa vulnerabilidades de software e, em outra, pede detalhes sobre ferramentas de acesso remoto.
Leia também: A marca d’água oculta do Claude deturpa a arte de escrever, diz Gruber
Regra de retenção da Anthropic expõe choque de estratégias
A Anthropic definiu a abordagem oposta em julho, exigindo 30 dias de retenção de dados para clientes corporativos que usam seus modelos mais poderosos, incluindo Fable 5 e Mythos 5.
O laboratório admitiu que a política seria impopular e poderia prejudicar os negócios, mas classificou os registros como fundamentais para identificar ataques distribuídos de forma deliberada por muitas requisições separadas. A revisão humana continua possível, porém apenas por um canal controlado, aberto a um grupo restrito de revisores autorizados. Cada sessão é registrada em um log à prova de adulteração.
Analistas questionam timing e comprovação da OpenAI
Brian Levine, diretor executivo da FormerGov, classificou a promessa como tecnicamente ambiciosa, já que monitoramento de abusos e cegueira em relação ao conteúdo historicamente caminham em direções opostas.
Ele observou que a comprovação virá só semanas depois. Jason Andersen, da Moor Insights and Strategy, leu os anúncios da semana também como movimento de posicionamento prévio a uma potencial oferta pública inicial.
Flavio Villanustre, chief information security officer do LexisNexis Risk Solutions Group, enxergou uma tentativa de suavizar o tipo de regulação que ele considera inevitável.
O teste encerra uma semana dominada por mensagens de segurança. Na terça-feira, a empresa informou que desacelerou o ritmo de escala e suspendeu o treinamento de reinforcement learning enquanto fortalece e submete seu ambiente de pesquisa a testes de intrusão. A OpenAI estima que o monitoramento ampliado consumirá cerca de 20% da capacidade de inferência sob vigilância.
Próximo assunto: Bitcoin pode voltar a US$ 100 mil antes do halving de 2028, diz Scaramucci
