OpenAI sta testando un sistema di sicurezza capace di intercettare gli abusi senza conservare i dati dei clienti, una sfida diretta alla nuova regola di conservazione a 30 giorni di Anthropic.
Punti chiave:
- OpenAI sta sperimentando Private Safety Processing, uno strumento che intercetta pattern di abuso tra sessioni collegate senza trattenere prompt o risposte dei clienti.
- Anthropic impone ai clienti enterprise dei suoi modelli più avanzati una conservazione obbligatoria di 30 giorni, ritenendo i log necessari per individuare attacchi in più fasi.
- Un rollout più ampio e un white paper tecnico sono attesi per settembre.
Private Safety Processing punta agli abusi su più sessioni
L’azienda ha annunciato la preview mercoledì, presentandola come un’estensione di Zero Data Retention, l’accordo che impedisce a OpenAI di conservare prompt o risposte dei modelli una volta elaborata la richiesta. Un lancio più esteso e un documento tecnico sono in programma per settembre.
Nel nuovo schema, i contenuti dei clienti restano su infrastrutture controllate dall’utente finale oppure vengono archiviati da OpenAI in forma cifrata, con chiavi detenute esclusivamente dal cliente. Strumenti automatizzati analizzano quel contenuto alla ricerca di schemi di abuso che si sviluppano su sessioni correlate. L’architettura copre anche il lavoro “agentico”, in cui il sistema potrebbe continuare ad agire anche dopo che l’utente gli ha ordinato di fermarsi. Il personale non ha accesso diretto a tali dati.
Aleah Houze, responsabile delle policy di prodotto dell’azienda, ha spiegato ai giornalisti che i comportamenti pericolosi spesso emergono solo se si osservano più interazioni nel loro insieme. Ha citato il caso di un utente che in una conversazione esplora vulnerabilità software e in un’altra chiede informazioni su strumenti di accesso remoto.
Da leggere anche: Il watermark nascosto di Claude snatura la scrittura, sostiene Gruber
La regola di conservazione di Anthropic divide i due rivali
Anthropic ha illustrato l’approccio opposto a luglio, introducendo l’obbligo di conservare per 30 giorni i dati dei clienti enterprise che utilizzano i suoi modelli più potenti, tra cui Fable 5 e Mythos 5.
Il laboratorio ha ammesso che la policy sarebbe stata impopolare e potenzialmente dannosa per il business, ma ha definito i log indispensabili per intercettare attacchi distribuiti deliberatamente su molte richieste separate. È prevista anche la revisione manuale, ma solo tramite un canale strettamente controllato, accessibile a un ristretto gruppo di revisori autorizzati. Ogni sessione viene registrata in un registro a prova di manomissione.
Analisti scettici su tempi e prove di OpenAI
Brian Levine, executive director di FormerGov, ha definito l’impegno una promessa tecnica forte, perché monitoraggio degli abusi e “cecità” rispetto ai contenuti in passato hanno seguito direzioni opposte.
Ha però sottolineato che le prove concrete arriveranno solo nelle settimane successive. Jason Andersen di Moor Insights and Strategy interpreta gli annunci della settimana anche come un posizionamento in vista di una possibile quotazione in Borsa.
Flavio Villanustre, chief information security officer di LexisNexis Risk Solutions Group, vi legge un tentativo di ammorbidire il quadro regolatorio che ritiene imminente.
La preview chiude una settimana dominata dai temi della sicurezza. Martedì l’azienda ha comunicato di aver rallentato la crescita di scala e sospeso gli addestramenti di reinforcement learning mentre rafforzava e “red-teamava” il proprio ambiente di ricerca. OpenAI ha inoltre stimato che l’estensione del monitoraggio consumerà circa il 20% della capacità di calcolo di inferenza sotto osservazione.
Prossimo articolo: Bitcoin potrebbe tornare verso quota 100.000 dollari prima dell’halving 2028, secondo Scaramucci
