OpenAI sta testando un sistema di sicurezza in grado di segnalare gli abusi senza conservare i dati dei clienti, una sfida diretta alla nuova regola di conservazione a 30 giorni introdotta dalla rivale Anthropic.
Punti chiave:
- OpenAI sta testando Private Safety Processing, uno strumento che individua pattern di abuso tra sessioni collegate senza trattenere i prompt o le risposte dei clienti.
- Anthropic impone ai clienti enterprise dei suoi modelli più potenti una conservazione minima di 30 giorni, sostenendo che i log siano necessari per individuare attacchi in più fasi.
- Un rollout più ampio e un white paper tecnico sono attesi per settembre.
Private Safety Processing mira agli abusi su più sessioni
L'azienda ha annunciato il test del nuovo sistema mercoledì, presentandolo come un'estensione dello Zero Data Retention, l'accordo che impedisce a OpenAI di conservare prompt o risposte del modello una volta completata l'elaborazione della richiesta. Un lancio più ampio e un white paper tecnico sono in programma per settembre.
Nel nuovo schema, i contenuti dei clienti restano su infrastrutture direttamente controllate dal cliente oppure vengono archiviati da OpenAI in forma cifrata, con chiavi detenute esclusivamente dal cliente. Strumenti automatici analizzano quei dati per identificare pattern di abuso tra sessioni correlate. L'architettura copre anche i cosiddetti agent, ossia sistemi che possono continuare ad agire anche dopo che l'utente ha chiesto di fermarsi. Il personale umano non ha accesso diretto a tali contenuti.
Aleah Houze, responsabile della product policy in OpenAI, ha spiegato ai giornalisti che spesso i comportamenti pericolosi emergono solo osservando una sequenza di interazioni nel loro complesso. Tra gli esempi citati, un utente che in una conversazione esplora vulnerabilità software e in un'altra chiede informazioni su strumenti di accesso remoto.
Da leggere anche: Il watermark nascosto di Claude stravolge l'arte della scrittura, secondo Gruber
La regola di retention di Anthropic divide i due rivali
Anthropic ha delineato a luglio una strategia opposta, imponendo ai clienti enterprise dei suoi modelli più avanzati, tra cui Fable 5 e Mythos 5, una conservazione obbligatoria dei dati per 30 giorni.
Il laboratorio ha riconosciuto che la policy sarebbe stata impopolare e potenzialmente dannosa per il business, ma ha definito i log indispensabili per individuare attacchi distribuiti intenzionalmente su molteplici richieste. Il riesame umano rimane possibile, ma solo tramite un flusso rigidamente controllato e accessibile a un numero ristretto di revisori autorizzati. Ogni sessione viene registrata in un log a prova di manomissione.
Gli analisti sollevano dubbi su tempi e prove di OpenAI
Brian Levine, executive director di FormerGov, ha definito l'annuncio un impegno tecnico ambizioso, dato che, storicamente, il monitoraggio degli abusi e la non conservazione dei contenuti tendono a muoversi in direzioni opposte.
Ha sottolineato come le prove concrete arriveranno solo nelle settimane successive. Jason Andersen di Moor Insights and Strategy ha letto il pacchetto di novità anche come un posizionamento in vista di una possibile IPO.
Flavio Villanustre, chief information security officer di LexisNexis Risk Solutions Group, ha interpretato l'iniziativa come un tentativo di ammorbidire il quadro regolatorio che si profila all'orizzonte.
Il test chiude una settimana dominata dai messaggi sulla sicurezza. Martedì l'azienda ha comunicato di aver rallentato il ritmo di scaling e sospeso temporaneamente il training di reinforcement learning, per mettere in sicurezza e stressare con red team l'ambiente di ricerca. Ha inoltre stimato che il monitoraggio esteso consumerà circa il 20% della capacità di calcolo d'inferenza sottoposta a controllo.
Prossimo articolo: Bitcoin potrebbe tornare a quota 100.000 dollari prima dell'halving 2028, dice Scaramucci
