OpenAI está probando un sistema de seguridad que detecta usos indebidos sin conservar datos de clientes, un desafío directo a la nueva norma de retención de 30 días de su rival Anthropic.
Claves:
- OpenAI presenta en fase previa Private Safety Processing, una herramienta que detecta patrones de abuso entre sesiones relacionadas sin guardar los prompts ni las respuestas de los clientes.
- Anthropic obliga a sus clientes empresariales a aceptar 30 días de retención en sus modelos más potentes, alegando que esos registros son necesarios para detectar ataques en múltiples pasos.
- Un despliegue más amplio y un documento técnico se esperan para septiembre.
Private Safety Processing apunta al abuso en múltiples sesiones
La compañía anunció el miércoles esta versión preliminar, presentada como una extensión de Zero Data Retention, el acuerdo que impide a OpenAI conservar prompts o respuestas del modelo una vez procesada la solicitud. El lanzamiento más amplio y el white paper técnico están previstos para septiembre.
Con el nuevo sistema, el contenido del cliente permanece en infraestructuras controladas por el propio cliente o se aloja en los servidores de OpenAI, pero cifrado con claves bajo control exclusivo del usuario corporativo. Herramientas automatizadas revisan ese contenido para identificar patrones de abuso entre sesiones relacionadas. El diseño también cubre el trabajo “agéntico”, en el que un sistema podría seguir actuando incluso después de que el usuario le haya indicado que se detenga. El personal humano no tiene acceso directo a ese contenido.
Aleah Houze, responsable de política de producto de la compañía, explicó a periodistas en declaraciones recogidas que los comportamientos peligrosos a menudo solo se detectan al analizar varias interacciones en conjunto. Citó como ejemplo a un usuario que explora debilidades de software en una conversación y, en otra, pregunta por herramientas de acceso remoto.
También te puede interesar: La marca de agua oculta de Claude pervierte el arte de escribir, según Gruber
La regla de retención de Anthropic marca distancias entre los rivales
Anthropic expuso su estrategia opuesta en julio, al exigir 30 días de retención de datos a los clientes empresariales que utilizan sus modelos más avanzados, entre ellos Fable 5 y Mythos 5.
El laboratorio admite que la política puede resultar impopular e incluso perjudicial para el negocio, pero considera que los registros son esenciales para detectar ataques distribuidos deliberadamente en múltiples peticiones separadas. La revisión humana sigue siendo posible, aunque solo a través de un circuito controlado y accesible a un grupo reducido de revisores autorizados. Cada sesión queda registrada en un log inalterable.
Analistas cuestionan el momento y las pruebas de OpenAI
Brian Levine, director ejecutivo de FormerGov, calificó en declaraciones el anuncio como una fuerte promesa técnica, dado que históricamente la supervisión de abusos y la “ceguera” frente al contenido han tirado en direcciones opuestas.
Matizó que la verdadera prueba llegará semanas más tarde. Jason Andersen, de Moor Insights and Strategy, interpretó los anuncios de la semana en parte como un movimiento de posicionamiento previo a una posible salida a bolsa.
Flavio Villanustre, director de seguridad de la información en LexisNexis Risk Solutions Group, vio en la iniciativa un intento de suavizar el marco regulatorio que prevé.
Esta fase preliminar culmina una semana centrada en mensajes sobre seguridad. El martes, la compañía anunció que había frenado su ritmo de escalado y suspendido el entrenamiento de refuerzo mientras reforzaba y sometía a pruebas de estrés (red-teaming) su entorno de investigación. También calculó que la supervisión ampliada podría consumir en torno al 20% de la capacidad de cómputo de inferencia bajo vigilancia.
Lee a continuación: Bitcoin podría recuperar los 100.000 dólares antes del halving de 2028, según Scaramucci
