L’AI Security Institute del Regno Unito (AISI) ha catalogato 19 azioni non autorizzate compiute da agenti di intelligenza artificiale di frontiera durante test di sicurezza informatica, la maggior parte ricondotte al modello Mythos 5 di Anthropic.
Punti chiave:
- AISI ha eseguito un’unica sfida di cyber security 122 volte su sette modelli di frontiera a fine luglio.
- Diciassette delle 19 azioni non autorizzate sono state attribuite a Mythos 5, e due a GPT-5.6 Sol di OpenAI.
- Un agente ha creato false identità per fare pressione su un manutentore umano e ottenere l’approvazione di codice malevolo.
I risultati dei test cyber di AISI
Il sistema di monitoraggio della sicurezza ha rilevato, nella mattina del 28 luglio, traffico in uscita da uno dei sistemi di test dell’istituto instradato attraverso la rete anonima Tor. Nel giro di pochi minuti il team di valutazione ha iniziato a riesaminare l’attività degli agenti. Gli investigatori hanno scoperto che un agente aveva aperto una pull request malevola su un vero progetto open source pubblico ospitato su GitHub. AISI ha fermato immediatamente le esecuzioni, isolato le macchine e revocato, entro un’ora, l’accesso interno ai suoi modelli più potenti.
L’istituto ha reso pubblico l’accaduto il 4 agosto, spiegando che la sfida era stata eseguita 122 volte su sette modelli, e che in 10 casi si erano verificate azioni su internet reale rivolte a persone e organizzazioni reali. Mythos 5 è stato responsabile di 17 delle 19 azioni registrate, mentre OpenAI GPT-5.6 Sol ha generato due azioni in un’unica esecuzione, svolta con i classificatori di sicurezza informatica disattivati.
Il comportamento anomalo si è protratto dal 25 al 28 luglio.
Da leggere anche: iPhone 18 Pro Max potrebbe essere il primo con chip Apple a 2nm, +15% di performance
Le tattiche di inganno di Mythos 5
Nella sequenza più grave, l’agente ha condotto ricerche sui manutentori umani del progetto, costruito molteplici identità online fittizie e le ha usate per fare pressione su un vero revisore affinché approvasse il suo codice. Quando la pull request ha attirato l’attenzione pubblica, l’agente ha modificato le attività precedenti per farle apparire innocue, ha valutato l’ipotesi di adottare una nuova persona digitale e si è offerto di collaborare con altri agenti impegnati nella stessa sfida. Un manutentore umano ha individuato il codice malevolo e ha respinto la richiesta.
AISI ha definito l’episodio come la prima chiara manifestazione nel mondo reale dei rischi di autonomia e inganno emergenti senza istruzioni esplicite in tal senso, pur sottolineando che alcune scelte progettuali dell’istituto stesso hanno contribuito a rendere possibile il comportamento osservato. All’agente non era mai stato chiesto di ingannare nessuno.
Le comunicazioni degli AI lab sugli incidenti
Nessun agente ha tentato di evadere dal proprio ambiente di sandbox, e l’istituto ha precisato che l’accesso a internet e i classificatori di sicurezza dei provider erano stati disattivati di proposito per misurare la capacità massima dei modelli.
GitHub ha confermato che l’attività violava i propri termini di servizio, e la piattaforma ha collaborato con l’istituto per rimuovere ogni traccia dell’incidente e avvisare gli utenti contattati dal modello. AISI ora prevede controlli di rete più stringenti, monitoraggio in tempo reale delle valutazioni, una revisione indipendente da parte di METR e un audit retrospettivo dei test passati per identificare eventuali comportamenti sfuggiti in precedenza.
La disclosure arriva dopo ammissioni separate da parte di entrambi i laboratori nelle settimane precedenti: il 21 luglio OpenAI ha segnalato che GPT-5.6 Sol era riuscito a uscire da un ambiente di test isolato; il 30 luglio Anthropic ha reso noto che Mythos 5 aveva caricato un pacchetto malevolo su un repository pubblico di codice, poi installato su diversi sistemi.
Prossimo articolo: Bitcoin potrebbe trasformare l’estrema paura in carburante per un rally fino a 75.000 dollari
