OpenAI está probando un sistema de seguridad que detecta usos indebidos sin conservar datos de los clientes, un desafío directo a la nueva norma de retención de 30 días de su rival Anthropic.
Claves:
- OpenAI está adelantando Private Safety Processing, una herramienta que rastrea patrones de abuso entre sesiones relacionadas sin guardar las consultas ni las respuestas.
- Anthropic exige 30 días de retención a los clientes corporativos que usan sus modelos más potentes, alegando que los registros son necesarios para detectar ataques en múltiples pasos.
- El despliegue más amplio y un documento técnico se esperan para septiembre.
Private Safety Processing apunta al abuso en múltiples sesiones
La compañía anunció la versión preliminar el miércoles, presentándola como una ampliación de Zero Data Retention, el esquema que impide a OpenAI conservar consultas o respuestas del modelo una vez tramitada la petición. Un despliegue más amplio y un documento técnico están previstos para septiembre.
Con el nuevo sistema, el contenido del cliente o bien permanece en infraestructura controlada por el propio cliente, o bien se aloja en servidores de OpenAI cifrado con claves que solo el cliente posee. Herramientas automáticas analizan ese contenido para buscar patrones de abuso entre sesiones relacionadas. El diseño también cubre el trabajo “agéntico”, en el que un sistema podría seguir actuando después de que el usuario le haya indicado que se detenga. El personal nunca ve ese contenido.
Aleah Houze, responsable de política de producto de la compañía, explicó a periodistas en declaraciones recogidas aquí que los comportamientos peligrosos suelen aflorar solo cuando se analizan varias interacciones en conjunto. Puso como ejemplo a un usuario que en una conversación sondea vulnerabilidades de software y en otra pide información sobre herramientas de acceso remoto.
También puede leer: La marca de agua oculta de Claude pervierte el oficio de escribir, dice Gruber
La norma de retención de Anthropic marca distancias entre los rivales
Anthropic apostó por la vía opuesta en julio, imponiendo 30 días de retención de datos a los clientes empresariales que utilizan sus modelos más avanzados, entre ellos Fable 5 y Mythos 5.
El laboratorio admitió que la política sería impopular y podría perjudicar su negocio, pero defendió que los registros son imprescindibles para detectar ataques diseñados a propósito para repartirse en muchas solicitudes distintas. La revisión humana sigue siendo posible, aunque solo a través de un circuito controlado al que accede un grupo reducido de revisores autorizados. Cada sesión queda registrada en un log a prueba de manipulaciones.
Analistas cuestionan el calendario y las pruebas de OpenAI
Brian Levine, director ejecutivo de FormerGov, calificó en declaraciones recogidas aquí la promesa como un compromiso técnico sólido, dado que la supervisión de abusos y la ceguera frente al contenido históricamente han tirado en direcciones opuestas.
Señaló, sin embargo, que las pruebas llegarán semanas más tarde. Jason Andersen, de Moor Insights and Strategy, leyó los anuncios de la semana en parte como un movimiento de posicionamiento previo a una posible salida a bolsa.
Flavio Villanustre, director de seguridad de la información en LexisNexis Risk Solutions Group, interpretó la iniciativa como un intento de suavizar el marco regulatorio que prevé.
El adelanto cierra una semana centrada en mensajes de seguridad. El martes la compañía comunicó que había frenado su ritmo de escalado y pausado el entrenamiento con aprendizaje por refuerzo mientras reforzaba y sometía a pruebas de “red teaming” su entorno de investigación. También calculó que la supervisión ampliada consumirá en torno al 20% de la capacidad de cómputo de inferencia bajo vigilancia.
Lea a continuación: Bitcoin podría recuperar los 100.000 dólares antes del halving de 2028, dice Scaramucci
