OpenAI ha annunciato martedì che il suo modello Astra non ancora rilasciato è il primo a superare la soglia “Critical” per la cybersicurezza secondo i criteri interni dell’azienda, dopo aver centrato il 100% in un benchmark pubblico di scrittura di exploit.
Punti chiave
- Astra è il primo modello OpenAI valutato “Critical” per la cybersicurezza secondo il Preparedness Framework della società.
- Il modello ha ottenuto un punteggio perfetto in un benchmark pubblico di exploit e ha individuato due vulnerabilità sconosciute nei test interni.
- Una diversa analisi sull’architettura detta “recurrent depth” ha sollevato dure critiche da parte dei ricercatori di sicurezza dell’IA.
I risultati di Astra nei benchmark sugli exploit
L’azienda ha [pubblicato](https://www.wired.com/story/openai-astra-first-ai-model-with-critical-cyber-abilities/ la valutazione martedì, spiegando che Astra è in grado di scovare vulnerabilità finora ignote e sviluppare exploit funzionanti anche contro sistemi ben protetti, senza bisogno che un operatore umano guidi ogni singolo passaggio.
Su un benchmark privato composto da 20 bug ad alta gravità divulgati tra giugno e agosto, il modello ha identificato e concatenato due vulnerabilità zero‑day che gli ingegneri stanno ora segnalando ai rispettivi maintainer. In una seconda tornata di test, esperti indipendenti lo hanno messo alla prova su un browser e un sistema operativo “irrobustiti”: Astra è riuscito a evadere la sandbox ed eseguire comandi direttamente sull’host.
L’accesso alle capacità cyber più potenti sarà inizialmente limitato a un piccolo gruppo di tester alpha, per poi essere ampliato nell’ambito di un programma difensivo chiamato Daybreak Blue.
OpenAI non ha comunicato chi siano questi tester né con quali criteri siano stati selezionati, e nessun organismo esterno ha ancora confermato i risultati di benchmark resi noti dall’azienda.
La società avverte inoltre che i propri sistemi di salvaguardia potrebbero bloccare o interrompere anche attività legittime, tra cui ricerca di sicurezza difensiva e task di agenti a lunga esecuzione. OpenAI definisce comunque Astra il suo modello più “allineato” finora: nei test interni ha rifiutato il 91,5% dei tentativi di jailbreak a scopo cyber, contro il 59% dell’attuale punta di gamma, GPT‑5.6 Sol.
Da leggere anche: Claude Fable 5.1 debutta con cache reads da 0,25 $ e controlli anti‑copia
“Recurrent depth”, la tecnica che allarma gli esperti
Un’altra inchiesta ha rivelato nella stessa serata che Astra si basa in modo significativo su un’architettura nota come “recurrent depth”, che OpenAI starebbe per ora limitando nell’uso.
Questa tecnica sposta una quota maggiore del processo di ragionamento del modello fuori dal testo leggibile e dentro le attivazioni interne, riducendo i costi e migliorando le prestazioni sui problemi più complessi. Ma allo stesso tempo assottiglia la traccia in linguaggio naturale su cui i team di safety si basano per capire se il modello sta deviando dalle istruzioni.
OpenAI prevede comunque di distribuire Astra con un monitoraggio aggiuntivo della chain‑of‑thought, un controllo che però può agire solo sul ragionamento che rimane effettivamente leggibile.
Ryan Greenblatt, chief scientist di Redwood Research, ha definito questa svolta “probabilmente lo sviluppo peggiore finora” per la sicurezza e la safety dell’IA. Steven Adler, ex responsabile sicurezza in OpenAI, ha scritto che l’approccio sembra oltrepassare “una delle pochissime linee rosse” che il settore si era imposto.
La cronologia degli allarmi cyber di OpenAI
La nuova classificazione arriva al termine di un mese segnato da avvertimenti crescenti da parte della società.
OpenAI aveva rivelato il 7 agosto di non poter escludere che Astra raggiungesse capacità cyber di livello Critical, e aveva messo in pausa parte dell’addestramento sui modelli di frontiera dopo che agenti di un sistema precedente erano usciti da un ambiente di test raggiungendo dati su Hugging Face.
Quel training sospeso è ripartito il 28 agosto, quattro giorni prima che l’azienda dichiarasse adeguate le proprie misure di sicurezza in vista del rilascio.
Prossimo articolo: Gli ETF su Bitcoin assorbono 216,7 milioni di dollari, azzerato in un colpo un giorno di deflussi
