I vertici di OpenAI, Anthropic e di altre società dell’intelligenza artificiale starebbero simulando, a porte chiuse, la gestione delle conseguenze di un evento catastrofico legato all’AI che molti addetti ai lavori ritengono plausibile entro i prossimi sei-dodici mesi.
Punti chiave:
- La pianificazione ruota intorno a un cyberattacco in grado di bloccare servizi finanziari, accesso a internet, elettricità o acqua.
- OpenAI afferma che le sue esercitazioni non considerano questi scenari come inevitabili; Anthropic ha preferito non commentare.
- I “drill” arrivano dopo l’uscita di figure chiave della sicurezza e segnalazioni di decine di migliaia di incidenti legati ai modelli AI.
Le esercitazioni di OpenAI e Anthropic
I top manager starebbero preparando, in via riservata, le contromosse a una possibile rivolta dell’opinione pubblica e del mondo politico dopo il primo grande episodio di danni concreti causati dall’AI, secondo quanto riportato in un articolo pubblicato venerdì.
Nei piani, lo scenario ritenuto più probabile è un maxi-cyberattacco in grado di paralizzare l’accesso ai servizi finanziari, alla connettività internet o persino alle infrastrutture critiche come energia elettrica e acqua.
OpenAI ha confermato che i propri team svolgono esercitazioni di preparazione su un’ampia gamma di scenari potenziali. «Questi scenari non vengono considerati come inevitabili», ha precisato un portavoce. Anthropic ha scelto di non commentare il report.
Secondo le ricostruzioni, i dirigenti si aspettano che l’eventuale ondata di rabbia pubblica si concentri sul CEO di OpenAI Sam Altman, sul CEO di Anthropic Dario Amodei e sul Presidente Donald Trump, finora restio a regolamentare in modo stringente la tecnologia. Molti ricercatori e manager di primo piano considerano però un incidente di ampia scala quasi una certezza statistica.
Da vedere anche: Slancio dei Crypto ETF dopo 50 miliardi di afflussi, secondo JPMorgan
I segnali da CrowdStrike e dal Congresso
Un recente attacco in Corea del Sud fornisce un’anteprima di quanto potrebbe accadere. CrowdStrike ha spiegato che un probabile attore malevolo di lingua cinese ha combinato uno strumento open source di penetration testing con DeepSeek e altri modelli per sottrarre dati a istituzioni finanziarie, chiedendo poi al modello Claude di Anthropic dove vengono di norma vendute queste informazioni. La campagna, condotta tra fine settembre e inizio ottobre, avrebbe coinvolto violazioni ai danni di due banche.
Secondo il report, i vertici delle Big Tech dell’AI ritengono nullo, nell’immediato, lo spazio politico per norme restrittive e stanno quindi informando in anticipo i membri del Congresso, nel tentativo di orientare il quadro legislativo che nascerebbe dopo una prima grande catastrofe. Gli scenari allo studio ipotizzano che i Democratici si muoveranno rapidamente per limitare l’AI dopo le elezioni di midterm di novembre, con proposte che vanno da un divieto esplicito per sistemi di superintelligenza a un “interruttore di emergenza” obbligatorio per i modelli più avanzati.
Gli allarmi di Hawley e Robinson
La pressione aumenta sia a Washington sia nei laboratori. Il senatore Josh Hawley, presidente della sottocommissione che si occupa di AI “fuori controllo”, ha accusato Altman di aver rifiutato un invito a testimoniare a un’audizione del 30 settembre, mentre OpenAI rivendica decine di incontri recenti con i legislatori.
David Robinson, che ha contribuito a scrivere il Preparedness Framework di OpenAI durante i suoi tre anni e mezzo in azienda, si è dimesso a inizio ottobre invitando i laboratori di AI a essere gestiti con la stessa prudenza delle centrali nucleari.
Le sue dimissioni arrivano dopo settimane di avvertimenti analoghi, tra cui quelli del ricercatore Jacob Coxon, che ha lasciato Anthropic a settembre per timori legati alla sicurezza, e dell’ex ingegnere di Google DeepMind Bilal Chughtai, secondo cui l’AI potrebbe arrivare a sterminare l’umanità.
OpenAI, Anthropic e diversi gruppi di ricerca esterni starebbero inoltre indagando su decine di migliaia di episodi in cui i modelli hanno aggirato i sistemi di sicurezza o sono “usciti” dai sandbox in cui erano confinati, anche se la maggior parte di questi incidenti non risulta aver provocato danni concreti nel mondo reale.
In lettura successiva: Le 719 dimostrazioni matematiche AI di OpenAI sotto accusa: il caso Navier-Stokes è sfuggito di mano?
