Demis Hassabis, co‑fondatore di Google DeepMind, ha avvertito mercoledì che i recenti attacchi condotti da agenti di intelligenza artificiale “canaglia” sono solo i primi segnali d’allarme e che, in assenza di barriere di sicurezza più robuste, entro due anni potrebbero verificarsi incidenti di ben altra portata.
Punti chiave:
- Hassabis definisce i recenti attacchi di agenti IA “colpi di avvertimento” provenienti da sistemi che non sono ancora particolarmente potenti.
- Senza misure di sicurezza più forti da parte di aziende e governi, potrebbero verificarsi gravi incidenti nei prossimi due anni.
- Il presidente di Microsoft, Brad Smith, sollecita leggi sull’IA sensate ed equilibrate dopo quello che definisce un anno “sobrio”.
L’allarme di Hassabis a Dublino
Hassabis, presidente di DeepMind e chief scientist di Alphabet, la holding di Google, ha dichiarato all’International AI Summit di Dublino che gli attacchi osservati finora provengono da sistemi che «non sono ancora così potenti». Ha poi messo in guardia sul fatto che lo scenario potrebbe cambiare già il prossimo anno e nei successivi, se il settore, le singole aziende e i governi non alzeranno significativamente il livello di protezione. I temi della sicurezza hanno dominato l’intero vertice.
Da mesi i ricercatori lanciano allarmi sul rischio rappresentato da agenti IA fuori controllo.
Tra i casi recenti si registrano intrusioni in reti aziendali e, più di recente, la rivelazione da parte di Anthropic che un suo modello avrebbe inviato alla polizia una falsa segnalazione di omicidio. Hassabis ha riconosciuto che l’industria ha ancora «molta strada da fare» prima di raggiungere gli standard di sicurezza adottati, ad esempio, nella biologia e nel nucleare per i sistemi critici. A suo avviso servirà, prima o poi, un organismo internazionale di standardizzazione, ma con procedure di certificazione proporzionate ai rischi e in grado di adattarsi rapidamente all’evoluzione tecnologica.
Da leggere anche: La Francia potrebbe tassare gli swap di stablecoin al 31,4%, Chainalysis avverte di una fuga offshore
La spinta regolatoria di Brad Smith
Il presidente di Microsoft, Brad Smith, ha dichiarato alla conferenza che i comportamenti “canaglia” di alcuni sistemi di IA hanno reso il 2026 un anno «sobrio» e che le norme di sicurezza devono ora mettersi al passo con l’innovazione.
«Oggi ci sono più regole di sicurezza per un cartone di latte che per l’IA», ha osservato.
Nessuna azienda né tecnologia, ha insistito Smith, dovrebbe essere al di sopra della legge; tuttavia le nuove regole devono essere sensate, bilanciate e non soffocare l’innovazione. Ha richiamato anche un recente report di Anthropic secondo cui piccoli modelli di IA potrebbero essere a pochi mesi dalla capacità di auto‑replicarsi da un dispositivo connesso a Internet all’altro, in modo analogo ai worm informatici. «Non voglio worm di IA nel mio frigorifero», ha ironizzato.
Alla vigilia del summit, Smith aveva chiesto l’introduzione di “freni di sicurezza” che consentano agli utenti di spegnere o rallentare gli agenti IA, insieme a obblighi di segnalazione degli incidenti e a test più rigorosi dei modelli prima del lancio. Alcuni operatori del settore, ha aggiunto mercoledì, devono superare la loro allergia alla regolamentazione.
Le dichiarazioni di Dublino si inseriscono nel solco di un piano che Hassabis aveva già illustrato lo scorso 14 luglio, quando definì i rischi cyber legati all’IA dei «colpi di avvertimento» e sollecitò gli Stati Uniti a creare un’autorità di vigilanza dedicata ai modelli di frontiera. Ispirato al regolatore di Wall Street FINRA, questo organismo permetterebbe ai laboratori di condividere i modelli fino a 30 giorni prima del rilascio, così da testarli sulle capacità di attacco informatico, biologico e di inganno. Hassabis ha detto di sperare che l’infrastruttura possa essere operativa entro fine anno.
Prossimo articolo: MNX apre scommesse pre‑IPO sulle valutazioni di OpenAI e Anthropic, senza bisogno di azioni
