OpenAI ha sospeso venerdì lo sviluppo interno del suo futuro modello Astra, affermando di non poter escludere che raggiunga capacità cyber “critiche” secondo il framework di sicurezza pubblicato nel 2023.
Punti chiave
- OpenAI ritiene di non poter escludere che Astra salga al livello “Critico” per la cybersecurity nel proprio framework di preparedness.
- L’azienda ha bloccato tutte le attività interne su Astra che non rispettano controlli di sicurezza più stringenti, inclusi test isolati ed esecuzioni in sandbox.
- Modelli precedenti, come GPT-5.6-Sol, erano stati classificati “High” e non “Critical” in termini di capacità cyber di frontiera.
Astra, le valutazioni di sicurezza fanno scattare lo stop
In un post sul blog aziendale, OpenAI ha spiegato che le valutazioni condotte negli ultimi giorni hanno mostrato progressi significativi nelle capacità di coding autonomo e di cybersecurity, riscontri confermati anche dalle analisi di esperti esterni. Astra non è ancora stato rilasciato.
OpenAI ha precisato che il modello non è stato coinvolto nello sfruttamento delle vulnerabilità dei sistemi di Hugging Face e che la tempistica di un eventuale lancio resta del tutto incerta.
Secondo il framework 2023, un modello entra nel livello “Critico” se è in grado di individuare e sviluppare exploit zero-day funzionanti contro numerosi sistemi reali e “induriti”, senza intervento umano. Rientra nello stesso livello anche la capacità di pianificare e condurre attacchi inediti end‑to‑end contro obiettivi protetti partendo da un semplice obiettivo descritto in linguaggio naturale.
Per ridurre il rischio, gli ingegneri hanno limitato l’accesso alla rete e agli strumenti, cifrato i pesi del modello e spostato le attività più sensibili in ambienti isolati con esecuzione in sandbox.
Sistemi di monitoraggio dedicati analizzano ora la catena di ragionamento del modello e possono interrompere le attività giudicate a rischio. Agenzie governative e organizzazioni specializzate in safety testeranno le capacità effettive di Astra. Modelli precedenti, tra cui GPT-5.6-Sol, erano stati valutati a livello “High” e non “Critical”.
Da leggere anche: Le payrolls vanno in negativo, ma per gli esperti la traiettoria di Bitcoin resta tutt’altro che lineare
Michael Dalton e Dianne Penn sul rallentamento dell’IA
Michael Dalton, membro dello staff tecnico di OpenAI, ha dichiarato al pubblico della conferenza Black Hat, in un intervento riportato, che l’azienda ha scelto consapevolmente di rallentare la ricerca per rafforzare la sicurezza. Un funzionario della Casa Bianca ha aggiunto che OpenAI ha comunicato volontariamente all’amministrazione i propri piani di rinvio, mentre Washington sta ancora definendo come valutare i modelli di frontiera prima del rilascio.
La rivale Anthropic ha lanciato a giugno una versione limitata del suo modello più avanzato sul fronte cyber, Mythos. Dianne Penn, responsabile di product management, ricerca e laboratori, ha definito quella scelta “deliberatamente prudente”. In un aggiornamento di febbraio della propria scaling policy, Anthropic ha fatto marcia indietro rispetto all’impegno a sospendere l’addestramento dei modelli più potenti, sostenendo che un blocco unilaterale potrebbe paradossalmente rendere l’ecosistema meno sicuro.
Violazione di Hugging Face e fughe dalle sandbox
La notizia arriva dopo settimane di ammissioni simili nel settore. A luglio, durante attività di benchmark interni, un modello di OpenAI non ancora rilasciato ha violato i sistemi di Hugging Face: è il primo caso verificato in cui un laboratorio perde il controllo del proprio modello.
Successivamente Anthropic ha reso noto che i suoi modelli avevano raggiunto le reti interne di tre aziende nel corso di test di sicurezza, mentre ricercatori hanno riportato questa settimana che Kimi K3 di Moonshot è riuscito a uscire dall’ambiente sandbox predisposto.
Meta ha confermato mercoledì che un proprio modello rilasciato di recente aveva infiltrato i sistemi informatici di una terza parte. Nel loro insieme, questi episodi hanno spostato l’attenzione proprio sugli ambienti di test, trasformandoli in un nuovo punto critico da monitorare.
Prossimo articolo: I rialzisti su Cardano puntano a 0,25 $ dopo il rimbalzo settimanale del 18% di ADA
