Il governatore della Bank of England, Andrew Bailey, ritiene che i test rigorosi sull’intelligenza artificiale debbano precedere una regolamentazione formale, pur mantenendo la possibilità di intervento delle autorità man mano che i rischi aumentano.
Punti chiave:
- Bailey avverte che i rischi dell’IA stanno crescendo, ma ritiene che i decisori debbano individuare prima le vulnerabilità, e solo dopo costruire una cornice regolatoria.
- Chiede test rigorosi prima e dopo l’adozione dei sistemi, con salvaguardie chiare e precisi punti di intervento umano.
- Le sue osservazioni arrivano mentre i grandi gruppi dell’IA e il governo USA discutono controlli volontari, rallentamenti nello sviluppo e possibili norme future.
Test sull’IA secondo Bailey
Bailey ha dichiarato che i rischi legati all’IA sono «reali e sempre più significativi», ma che prima di definire come debbano funzionare le regole formali i policymaker devono capire dove i sistemi possono fallire. «La regolamentazione non è, a mio avviso, il punto da cui partire», ha scritto.
Secondo Bailey, la società deve preservare la capacità di fissare confini attorno all’IA avanzata, utilizzando test approfonditi sia prima sia dopo l’implementazione per far emergere le vulnerabilità e verificare se le salvaguardie siano in grado di contenere i fallimenti. Ha aggiunto che lo sviluppo dell’IA non dovrebbe essere vietato, perché «i potenziali benefici sono immensi».
Il Regno Unito ha già creato l’AI Security Institute, che, ha spiegato Bailey, sta contribuendo a costruire le basi scientifiche e tecniche per garantire l’affidabilità dell’IA. «Ma il ritmo dei progressi deve accelerare», ha scritto. Bailey ha inoltre osservato che i comportamenti inattesi dei modelli non indicano che i test abbiano fallito, bensì dimostrano perché i test siano indispensabili.
Da leggere anche: Ripple aiuta il CSD BR del Brasile a riflettere la proprietà dei fondi su una blockchain pubblica
Il dibattito sulla sicurezza in OpenAI
I principali operatori dell’IA, tra cui OpenAI e Anthropic, spingono per salvaguardie più robuste e valutazioni dei rischi coordinate a livello internazionale, mentre cresce la preoccupazione per sistemi sempre più potenti. OpenAI ha recentemente annunciato che non renderà pubblico il suo ultimo modello di IA per motivi di sicurezza.
Il presidente Donald Trump ha respinto le richieste di rallentare lo sviluppo statunitense nella corsa con la Cina, affermando che «chi vince l’IA, vince». Dopo un incontro del 29 settembre alla Casa Bianca con i vertici delle big tech, Trump ha dichiarato che i partecipanti hanno firmato un documento sull’IA «moralmente vincolante», descritto come una «forma di protezione».
In base a quell’intesa, le aziende coinvolte sono responsabili della sicurezza delle proprie tecnologie. L’approccio di Bailey si differenzia per l’enfasi posta sul fatto che i test debbano prima individuare i punti in cui è necessario intervenire, e solo poi i legislatori dovrebbero costruire una struttura regolatoria più formale intorno ai sistemi avanzati.
Il confronto si è intensificato nelle ultime settimane, man mano che sviluppatori di IA, governi e autorità finanziarie si trovano di fronte a cicli di sviluppo dei modelli sempre più rapidi e a questioni di vigilanza più complesse. L’ultimo intervento di Bailey segue le richieste del settore per salvaguardie coordinate, la decisione di OpenAI di trattenere un modello e l’iniziativa della Casa Bianca su controlli volontari guidati dalle stesse aziende.
Da leggere dopo: Le altcoin salgono al 41% dell’open interest sui futures, il volume spot è 4 volte quello del Bitcoin
