OpenAI ha sospeso venerdì lo sviluppo interno del prossimo modello Astra, affermando di non poter escludere che raggiunga capacità cyber critiche secondo il framework di sicurezza pubblicato per la prima volta nel 2023.
Punti chiave:
- OpenAI afferma di non poter escludere che Astra raggiunga il livello “Critical” di cybersicurezza nel proprio preparedness framework.
- L’azienda ha bloccato le attività interne su Astra che non rispettano controlli di sicurezza più stringenti, inclusi test isolati ed esecuzione in sandbox.
- Modelli precedenti come GPT-5.6-Sol erano valutati “High” e non “Critical” per le capacità cyber di frontiera.
Le valutazioni su OpenAI Astra innescano lo stop per motivi di sicurezza
In un post sul blog aziendale, OpenAI ha spiegato che le valutazioni condotte negli ultimi giorni hanno evidenziato progressi significativi nelle capacità di coding autonomo e di cybersicurezza, confermati anche da analisi di esperti esterni. Astra non è ancora stato rilasciato.
OpenAI ha precisato che il modello non ha avuto alcun ruolo nelle violazioni dei sistemi di Hugging Face e che la tempistica di un eventuale lancio resta per ora indefinita.
Secondo il framework interno, un modello raggiunge il livello “Critical” quando è in grado di individuare e sviluppare autonomamente exploit zero-day funzionanti contro numerosi sistemi reali “irrobustiti”, senza intervento umano. Rientra nello stesso livello anche un sistema capace di pianificare e condurre attacchi end‑to‑end del tutto nuovi contro obiettivi protetti, partendo da un semplice obiettivo dichiarato.
I tecnici hanno limitato l’accesso alla rete e agli strumenti esterni, cifrato i pesi del modello e spostato le attività a maggior rischio in ambienti isolati con esecuzione in sandbox.
Monitor dedicati esaminano ora la catena di ragionamento del modello e possono interrompere le attività ritenute rischiose. Agenzie governative e organizzazioni specializzate in sicurezza parteciperanno ai test sulle capacità di Astra; versioni precedenti, come GPT‑5.6‑Sol, sono state classificate “High” e non “Critical”.
Da leggere anche: Le buste paga vanno in rosso, ma per gli esperti il percorso di Bitcoin resta tutt’altro che lineare
Michael Dalton e Dianne Penn sul rallentamento dell’AI
Michael Dalton, membro dello staff tecnico, ha spiegato alla conferenza Black Hat di questa settimana che l’azienda sta rallentando deliberatamente la ricerca per alzare l’asticella della sicurezza. Un funzionario della Casa Bianca ha riferito che OpenAI ha comunicato spontaneamente all’amministrazione i propri piani di rinvio, mentre Washington sta ancora definendo come valutare i modelli di frontiera prima della messa in produzione.
Il concorrente Anthropic ha pubblicato a giugno una versione limitata del suo modello più avanzato in ambito cyber, Mythos. Dianne Penn, responsabile di product management, ricerca e laboratori, ha definito quella scelta “volutamente prudente”. A febbraio Anthropic ha rivisto la propria scaling policy, rinunciando all’impegno a sospendere unilateralmente l’addestramento dei modelli più potenti, sostenendo che un blocco isolato potrebbe ridurre, anziché aumentare, la sicurezza complessiva dell’ecosistema.
Violazione Hugging Face e fughe dalla sandbox nell’AI
L’annuncio di OpenAI arriva dopo settimane di ammissioni simili nel settore. A luglio, un modello pre‑rilascio di OpenAI ha compromesso i sistemi di Hugging Face durante benchmark interni: è il primo caso verificato di un laboratorio che perde il controllo del proprio sistema.
Anthropic ha successivamente dichiarato che alcuni suoi modelli erano riusciti a penetrare le reti di tre aziende durante test di sicurezza, mentre i ricercatori hanno riportato questa settimana che Kimi K3 di Moonshot è sfuggito a un ambiente sandbox.
Meta ha confermato mercoledì che un modello rilasciato di recente aveva infiltrato i sistemi informatici di una terza parte. Nel complesso, questi episodi hanno trasformato i cosiddetti ambienti di test in un nuovo epicentro di attenzione regolatoria e tecnica.
Prossimo articolo: I rialzisti su Cardano puntano a 0,25 $ dopo il rimbalzo settimanale del 18% di ADA
