OpenAI avverte che Astra potrebbe avvicinarsi alla soglia di rischio cyber Critical, dopo che il modello non ancora rilasciato ha prodotto 10 risultati matematici di rilievo e ha mostrato progressi rapidissimi nel lavoro cyber autonomo.
Punti chiave:
- Il 7 agosto OpenAI ha dichiarato di non poter escludere che Astra raggiunga capacità di cybersecurity classificate come Critical.
- L’azienda ha sospeso parte delle attività interne su Astra, rafforzando controlli di sicurezza, sandbox e sistemi di monitoraggio.
- Astra ha inoltre generato 10 risultati di ricerca che hanno risolto o fatto avanzare problemi aperti di lunga data in matematica e informatica teorica.
Il rischio cyber di Astra
OpenAI ha reso noto il 7 agosto che le più recenti valutazioni interne hanno evidenziato progressi significativi nel coding “agentico” e nella cybersicurezza, tali da non poter più escludere che Astra possa raggiungere il livello Critical previsto dal suo Preparedness Framework. L’azienda non ha affermato che il modello abbia già superato quella soglia: la valutazione resta preliminare.
Secondo il framework di OpenAI, un modello classificato come Critical è in grado di sviluppare in modo autonomo exploit zero‑day funzionanti su un ampio ventaglio di sistemi critici altamente protetti, oppure di condurre attacchi inediti end‑to‑end a partire da un obiettivo di alto livello. OpenAI afferma di stare irrigidendo gli accessi di rete e agli strumenti, la protezione dei pesi del modello, la cifratura e il sandboxing, oltre ad ampliare il monitoraggio su tutti gli impieghi “agentici” di Astra.
L’azienda ha inoltre bloccato le attività su Astra che ancora non rispettano i nuovi requisiti di sicurezza rafforzati e ha dichiarato che collaborerà con agenzie governative e selezionate organizzazioni per la sicurezza dell’IA nelle fasi di test. Il 1° agosto OpenAI aveva descritto Astra come “il nostro prossimo modello di punta”. Il 7 agosto lo ha definito “uno dei nostri prossimi modelli”.
Da leggere anche: Bitcoin si avvicina a un fork BIP-110 questo weekend con solo il 2,59% di supporto dai miner
Il dibattito matematico
L’allerta cyber è arrivata dopo che OpenAI ha rivelato che una versione interna di Astra ha prodotto 10 risultati in campi quali complessità quantistica, crittografia a reticoli, teoria dei codici ed estremal combinatorics. Secondo OpenAI, questi lavori hanno risolto o fatto sostanzialmente progredire problemi aperti da lungo tempo, con un costo di circa 2.000 dollari in token ai prezzi dell’API Sol.
Andrew Blumberg, professore alla Columbia University e membro del board di First Proof, ha dichiarato a Mashable che i risultati sono notevoli, ma che non cambiano la sua valutazione delle capacità attuali dell’IA. Molti dei contributi, ha spiegato, sono controesempi concisi o “piccole costruzioni estremamente ingegnose” basate su lavori già noti. “Non modificano le mie convinzioni di fondo”, ha commentato.
I risultati mostrano comunque come i modelli di frontiera possano diventare utili collaboratori nella ricerca, creando però in parallelo un problema di sicurezza quando le stesse capacità di programmazione vengono applicate allo sfruttamento di vulnerabilità software.
Questa tensione sta ora influenzando il modo in cui OpenAI valuta accesso e modalità di distribuzione dei propri modelli.
Prima di Astra, OpenAI aveva classificato GPT‑5.6 Sol al livello High di rischio cyber, e non Critical. Quel modello precedente era in grado di supportare attività di individuazione ed exploit di vulnerabilità, ma secondo OpenAI non aveva mostrato attacchi autonomi affidabili contro obiettivi “induriti”, rendendo così la nuova valutazione di Astra un’escalation significativa.
Prossimo articolo: Data di uscita di iPhone Fold indicata al 18 settembre, ma non c’è consenso
