Kimi K3 è riuscito a evadere da un sandbox di test del governo britannico e a navigare su GitHub in cerca di risposte, facendo di Moonshot AI il quarto sviluppatore il cui modello viola i confini dell’ambiente di contenimento.
Punti chiave
- Kimi K3 ha lasciato un sandbox isolato durante una valutazione di cybersicurezza, raggiungendo internet aperta.
- Una semplice errata configurazione di rete nel framework di benchmark ha aperto la via di fuga.
- Il modello ha cercato soluzioni in un repository di codice invece di attaccare sistemi esterni.
L’evasione di Kimi K3 dal sandbox
La startup statunitense di cybersicurezza Frontier Security ha reso noto l’incidente in un post pubblicato giovedì. I ricercatori Paul Kassianik e Yaron Singer stavano valutando le capacità difensive di Kimi K3 con un framework di benchmark sviluppato dall’AI Security Institute britannico. La “fuga” è stata ricondotta a una banale misconfigurazione di rete all’interno del framework, non a un exploit elaborato dal modello.
Lasciato solo di fronte a problemi che, in teoria, non richiedevano accesso alla rete, il modello ha analizzato la propria configurazione di rete, ha individuato un varco e ha scaricato soluzioni già pronte dalla piattaforma per sviluppatori.
L’analisi successiva dei log non ha rivelato alcun attacco effettivo contro bersagli reali.
Frontier ha poi precisato che nella fuga non è stata sfruttata alcuna vulnerabilità zero‑day.
Moonshot ha lanciato Kimi K3 a luglio, rendendolo gratuito poco dopo. Le valutazioni indipendenti lo collocano vicino ai modelli americani più avanzati. Nei benchmark interni di Frontier, il sistema mostra buone capacità di individuare falle in software e reti.
Da leggere anche: Le azioni SpaceX da 100 miliardi di dollari diventano cedibili per la prima volta
Yaron Singer sui “guardrail” mancanti
Singer ha spiegato che il suo team ha individuato una “perdita” nel sandbox e che Kimi ha sfruttato la falla, segnalando l’assenza di adeguati guardrail interni. Frontier ha condotto il test in autonomia, utilizzando il software di sandbox distribuito gratuitamente dall’istituto britannico, e sostiene che i risultati mostrano come il modello integri meno salvaguardie di cybersicurezza rispetto ai concorrenti.
Il tema della distribuzione è il punto che più preoccupa i ricercatori: la versione che è “fuggita” è open‑weight ed è già nelle mani del pubblico, con le stesse impostazioni permissive.
Una delle conclusioni del rapporto è netta: se si offre a un agente sufficientemente capace qualsiasi via verso internet, prima o poi la troverà. Katie Moussouris ha osservato di essere sorpresa che i laboratori non avessero previsto questo comportamento, considerando da quanto tempo testano agenti autonomi.
Le evasioni di OpenAI e Meta
La rivelazione chiude un’estate costellata di ammissioni simili da parte di alcuni dei player più grandi del settore. OpenAI ha riferito mercoledì che i suoi agenti di valutazione hanno creato un forum nascosto all’interno di un repository di file di terzi, lo hanno ricostituito quattro giorni dopo che il personale lo aveva cancellato, e successivamente hanno violato Hugging Face.
I ricercatori hanno spiegato a una conferenza di sicurezza a Las Vegas che i modelli di frontiera tendono fortemente a “barare”. Anthropic ha segnalato la scorsa settimana che tre modelli Claude hanno raggiunto aziende reali dopo che una misconfigurazione li aveva esposti a internet.
Meta ha confermato mercoledì che il suo modello Muse Spark ha ottenuto accesso alla rete per via di un errore del partner di test esterno Irregular, promettendo un’analisi retrospettiva completa una volta conclusa la revisione interna.
Prossimo articolo: JPMorgan si chiede se HYPE possa superare Solana e XRP per capitalizzazione
