OpenAI está a testar um sistema de segurança que sinaliza usos indevidos sem reter dados de clientes, um desafio direto à nova regra de retenção de 30 dias da rival Anthropic.
Principais pontos:
- A OpenAI está a pré-estrear o Private Safety Processing, uma ferramenta que deteta padrões de abuso em sessões relacionadas sem guardar prompts nem respostas.
- A Anthropic exige 30 dias de retenção de dados aos clientes empresariais que usam os seus modelos mais avançados, dizendo que os logs são necessários para apanhar ataques em vários passos.
- Um lançamento mais amplo e um white paper técnico estão previstos para setembro.
Private Safety Processing mira abusos em múltiplas sessões
A empresa anunciou a pré-estreia na quarta‑feira, apresentando o sistema como uma extensão do Zero Data Retention, o acordo que impede a OpenAI de manter prompts ou respostas dos modelos depois de concluído cada pedido. A divulgação alargada e um white paper técnico estão planeados para setembro.
No novo modelo, o conteúdo dos clientes permanece em infraestrutura controlada pelo próprio cliente ou em armazenamento da OpenAI encriptado com chaves detidas apenas pelo cliente. Ferramentas automatizadas analisam esse conteúdo em busca de padrões de abuso que surgem em sessões relacionadas. O desenho também abrange trabalho “agente”, em que o sistema pode continuar a agir depois de o utilizador ter dito para parar. Funcionários da OpenAI não têm acesso direto a esse conteúdo.
Aleah Houze, responsável pela política de produto da empresa, explicou a jornalistas em declarações à imprensa que comportamentos perigosos costumam só ser evidentes quando várias interações são analisadas em conjunto. Deu como exemplo um utilizador que, numa conversa, testa vulnerabilidades de software e, noutra sessão, pergunta por ferramentas de acesso remoto.
Leia também: A marca d'água oculta do Claude deturpa a arte da escrita, diz Gruber
Regra de retenção da Anthropic marca fronteira entre rivais
A Anthropic definiu a abordagem oposta em julho, ao impor uma retenção de 30 dias de dados para clientes empresariais que usem os seus modelos mais poderosos, incluindo o Fable 5 e o Mythos 5.
O laboratório reconheceu que a política seria impopular e poderia prejudicar o negócio, mas classificou os logs como essenciais para detetar ataques propositadamente distribuídos por múltiplos pedidos distintos. A revisão humana continua possível, mas apenas através de um circuito controlado, acessível a um pequeno grupo de revisores autorizados. Cada sessão é registada num log inviolável.
Analistas questionam timing e provas da OpenAI
Brian Levine, diretor executivo da FormerGov, considerou em declarações que a promessa representa um compromisso técnico robusto, dado que, historicamente, monitorização de abusos e “cegueira” de conteúdo costumam puxar em direções opostas.
Notou, contudo, que a prova concreta só chegará semanas mais tarde. Jason Andersen, da Moor Insights and Strategy, leu os anúncios da semana também como movimento de posicionamento prévio a uma potencial oferta pública inicial.
Flavio Villanustre, diretor de segurança de informação do LexisNexis Risk Solutions Group, viu na estratégia uma tentativa de suavizar a regulação que considera inevitável.
A pré‑estreia encerra uma semana dominada por mensagens de segurança. Na terça‑feira, a empresa revelou ter abrandado o ritmo de escala e ter suspendido o treino de reinforcement learning enquanto reforça e submete o seu ambiente de investigação a testes de equipa vermelha. A OpenAI estimou ainda que a monitorização alargada consumirá cerca de 20% do poder de computação de inferência sob vigilância.
A seguir: Bitcoin pode voltar a $100 mil antes do halving de 2028, diz Scaramucci
