OpenAI avverte che Astra potrebbe avvicinarsi alla soglia di sicurezza informatica “Critica” dopo che il modello non ancora rilasciato ha prodotto 10 risultati matematici di rilievo e ha mostrato progressi rapidissimi nel lavoro cyber autonomo.
Punti chiave:
- Il 7 agosto OpenAI ha dichiarato di non poter escludere che Astra raggiunga capacità di cybersicurezza di livello Critico.
- La società ha sospeso parte delle attività interne su Astra mentre rafforza controlli di sicurezza, sandbox e sistemi di monitoraggio.
- Astra ha inoltre generato 10 risultati di ricerca che risolvono o fanno avanzare problemi di lunga data in matematica e informatica teorica.
Rischio cyber di Astra
Il 7 agosto OpenAI ha reso noto che le più recenti valutazioni interne hanno mostrato forti miglioramenti nelle capacità di programmazione autonoma (agentic coding) e di cybersicurezza, al punto da non poter più escludere che Astra raggiunga il livello “Critico” previsto dal proprio Preparedness Framework. L’azienda non ha affermato che il modello abbia già superato tale soglia; la valutazione resta preliminare.
Un modello “Critico”, secondo il framework di OpenAI, sarebbe in grado di sviluppare in autonomia exploit zero-day funzionanti contro molteplici sistemi critici ben difesi, oppure di condurre attacchi inediti, end‑to‑end, partendo da un semplice obiettivo di alto livello. OpenAI afferma di stare irrigidendo l’accesso alla rete e agli strumenti, la protezione dei pesi del modello, la crittografia e l’uso di sandbox, ampliando al contempo il monitoraggio sugli impieghi agentici di Astra.
La società ha inoltre sospeso le attività su Astra che non rispettano ancora i nuovi requisiti di sicurezza rafforzati e ha annunciato che collaborerà con agenzie governative e selezionate organizzazioni per la sicurezza dell’IA nelle fasi di test. Il 1° agosto OpenAI aveva descritto Astra come “il nostro prossimo grande modello”. Il 7 agosto lo ha definito “uno dei nostri prossimi modelli”.
Da leggere anche: Bitcoin si avvicina a un fork BIP-110 questo weekend con solo il 2,59% di supporto dai miner
Il dibattito matematico
L’allarme cyber è arrivato dopo che OpenAI ha rivelato che una versione interna di Astra ha prodotto 10 risultati in campi quali complessità quantistica, crittografia a reticoli, teoria dei codici ed estremal combinatorics. Secondo OpenAI, il lavoro ha risolto o fatto compiere passi sostanziali su problemi aperti di lunga data, con un costo di circa 2.000 dollari in token ai prezzi dell’API Sol.
Andrew Blumberg, professore alla Columbia University e membro del board di First Proof, ha dichiarato a Mashable che i risultati sono notevoli ma non modificano la sua valutazione sulle capacità attuali dell’IA. Molti contributi, ha spiegato, sono controesempi sintetici o “piccole costruzioni estremamente ingegnose” basate su lavori già noti. “Non cambiano i miei priors”, ha commentato.
I risultati mostrano comunque come i modelli di frontiera possano diventare partner di ricerca utili, creando in parallelo un problema di sicurezza: le stesse capacità di coding possono infatti essere applicate all’exploitation del software.
Questa tensione sta ora orientando il modo in cui OpenAI valuta accesso e modalità di rilascio dei modelli.
Prima di Astra, OpenAI aveva classificato GPT-5.6 Sol al livello “High” di cybersicurezza, non “Critical”. Quel modello precedente era in grado di supportare attività di individuazione e sfruttamento di vulnerabilità, ma secondo OpenAI non aveva dimostrato attacchi autonomi affidabili contro obiettivi particolarmente blindati. La nuova valutazione di Astra rappresenta dunque un salto di livello significativo.
Prossimo articolo: Data di uscita di iPhone Fold indicata per il 18 settembre, ma non tutti concordano
