Demis Hassabis, cofondatore di Google DeepMind, ha avvertito mercoledì che i recenti attacchi condotti da agenti di intelligenza artificiale “canaglia” sono solo i primi colpi di avvertimento e che, in assenza di presidi di sicurezza più solidi, nel giro di circa due anni potrebbero verificarsi incidenti gravi.
Punti chiave:
- Hassabis ha definito i recenti attacchi degli agenti IA segnali d’allarme iniziali provenienti da sistemi che non sono ancora particolarmente potenti.
- Ha avvertito che, senza un rafforzamento delle misure di sicurezza da parte di aziende e governi, nei prossimi anni potrebbero verificarsi incidenti di grande portata.
- Il presidente di Microsoft, Brad Smith, ha invocato norme sull’IA “sensate ed equilibrate” dopo quello che ha definito un anno disilluso.
L’allarme di Hassabis a Dublino
Hassabis, presidente di DeepMind e chief scientist di Alphabet, la holding di Google, ha dichiarato all’International AI Summit di Dublino che gli episodi recenti provengono da sistemi che «non sono ancora così potenti». Ha poi avvertito che il quadro potrebbe cambiare già il prossimo anno e nei successivi, se il settore, le singole aziende e i governi non faranno di più per mettere questi sistemi in sicurezza. Le preoccupazioni sulla safety hanno dominato l’evento.
Da mesi i ricercatori lanciano l’allarme sugli agenti IA fuori controllo.
Tra i casi recenti figurano intrusioni in reti aziendali e, più di recente, la rivelazione da parte di Anthropic che un suo modello ha trasmesso alla polizia una falsa segnalazione di omicidio. Hassabis ha riconosciuto che al settore resta «molto lavoro da fare» prima di raggiungere gli standard di sicurezza adottati in biologia e nel comparto nucleare per i sistemi critici. A suo avviso, sarà necessario istituire una sorta di organismo internazionale di standardizzazione, purché i processi di certificazione restino proporzionati ai rischi e capaci di adattarsi rapidamente all’evoluzione tecnologica.
Da leggere anche: La Francia potrebbe tassare gli swap di stablecoin al 31,4%, Chainalysis teme una fuga offshore
La spinta regolatoria di Brad Smith
Il presidente di Microsoft, Brad Smith, ha dichiarato alla conferenza che i comportamenti “canaglia” di alcuni sistemi hanno reso il 2026 un «anno disilluso» e che le norme sulla sicurezza devono ora mettersi al passo con l’innovazione.
«Esistono più regole di sicurezza per un cartone di latte che per l’IA», ha osservato.
Nessuna azienda o tecnologia dovrebbe essere al di sopra della legge, ha argomentato Smith, ma le nuove regole dovranno essere razionali, bilanciate e attente a non soffocare l’innovazione. Ha inoltre richiamato un recente rapporto di Anthropic secondo cui piccoli modelli di IA potrebbero, nel giro di pochi mesi, essere in grado di replicarsi da un dispositivo connesso a Internet all’altro, in modo analogo ai “worm” informatici. «Non voglio worm di IA nel mio frigorifero», ha chiosato.
Alla vigilia del summit, Smith aveva invocato dei “freni di sicurezza” che consentano agli utenti di spegnere o rallentare gli agenti IA, insieme all’obbligo di segnalare gli incidenti e a test più rigorosi dei modelli prima del rilascio. Alcuni operatori del settore, ha aggiunto mercoledì, devono superare la loro “allergia” alla regolamentazione.
Le dichiarazioni di Dublino si inseriscono nel solco di un piano che Hassabis aveva già illustrato il 14 luglio, quando definì i rischi cyber guidati dall’IA «colpi di avvertimento» e sollecitò gli Stati Uniti a istituire un’autorità di vigilanza sui modelli più avanzati. Sul modello dell’autorità di autoregolamentazione di Wall Street FINRA, il nuovo organismo permetterebbe ai laboratori di condividere i modelli fino a 30 giorni prima del lancio, per sottoporli a test sulla capacità di condurre attacchi informatici, biologici e di manipolazione. Hassabis ha affermato di sperare di vederlo operativo entro la fine dell’anno.
Prossimo articolo: MNX apre scommesse pre-IPO sulle valutazioni di OpenAI e Anthropic, senza bisogno di detenere azioni
