Un chatbot ha fabbricato informazioni d’intelligence secondo cui una nave cinese trasportava componenti per armi nucleari. Quattro fonti hanno riferito che il falso allarme ha rischiato di far scattare un abbordaggio statunitense.
Punti chiave:
- Militari americani armati si sono preparati ad abbordare un’imbarcazione cinese in Medio Oriente, mentre i velivoli erano già in volo.
- I vertici si sono accorti dell’errore solo poco prima dell’operazione, dopo aver scoperto che il carico era stato identificato in modo errato da un chatbot.
- Alcuni ricercatori chiedono linee rosse per tenere l’IA fuori dalle decisioni sul lancio nucleare, oltre a una hotline per gli incidenti legati all’intelligenza artificiale.
Il chatbot ha letto male il manifesto di carico della nave cinese
Quattro persone a conoscenza dei fatti hanno descritto un’analisi circolata questa primavera all’interno dell’apparato militare statunitense, nel pieno della guerra con l’Iran. Il documento sosteneva che una nave cinese in Medio Oriente stesse trasportando componenti destinati a un programma di armamento nucleare. Il rapporto sul manifesto della nave era stato elaborato dal Comando delle operazioni speciali del Pacifico degli Stati Uniti, con sede alle Hawaii, che non ha risposto alla richiesta di commento.
I militari armati si erano preparati ad abbordare la nave e gli aerei erano già in volo. I responsabili hanno esaminato il dossier solo poco prima dell’operazione pianificata e hanno scoperto che un analista lo aveva costruito con l’IA, e che un chatbot aveva classificato in modo errato il materiale a bordo.
Il bot aveva messo insieme informazioni open source con intelligence di segnali classificata conservata nei sistemi governativi, per poi far passare di nuovo i risultati attraverso l’IA e confezionarli come un normale prodotto d’intelligence.
Una fonte ha definito il rapporto «completamente falso». I giornalisti non sono riusciti a stabilire quale fosse in realtà il carico, né se il chatbot fosse un prodotto commerciale o uno strumento governativo.
Da leggere anche: Previsioni Nvidia 2030: il divario va da 727 a 28.560 dollari
Sisson e Jiang chiedono linee rosse sul nucleare
Melanie Sisson del Brookings Institution e Tianjiao Jiang dell’Università di Fudan hanno pubblicato la scorsa settimana una proposta di salvaguardie per l’IA militare, nell’ambito di un ciclo di colloqui che le due istituzioni portano avanti con la Tsinghua University dal 2019. Chiedono linee rosse che vietino l’uso della tecnologia nelle decisioni di lancio nucleare e negli attacchi alle reti di comando nucleare di un avversario.
I due hanno inoltre proposto una hotline dedicata agli incidenti legati all’IA e una definizione condivisa di controllo umano significativo. Il loro lavoro si inserisce in un sistema frammentato, privo di uno standard unico per verificare i risultati prodotti dagli strumenti, con livelli di affidabilità molto diversi tra le varie strutture governative. Secondo alcuni funzionari, l’uso dell’IA nel targeting continua a crescere, ma restano scarse le indicazioni su come la revisione umana possa prevenire vittime civili o fuoco amico.
La strategia sull’IA di Hegseth finisce sotto la lente
Il segretario alla Difesa Pete Hegseth ha presentato nel gennaio 2026 una strategia di accelerazione che prometteva una forza armata orientata all’IA in ogni dominio e metteva i modelli a disposizione di tre milioni di effettivi. Da allora, l’adozione è rimasta disomogenea, con uffici diversi che utilizzano strumenti diversi e applicano regole di sicurezza differenti.
Washington e Pechino hanno già affrontato questo nodo in passato. Joe Biden e Xi Jinping avevano concordato nel novembre 2024 che a decidere sull’uso delle armi nucleari debbano essere gli esseri umani, non le macchine, senza però definire come far rispettare l’intesa. Donald Trump ospiterà Xi a Washington il 24 settembre, con l’IA attesa tra i temi sul tavolo.
Leggi anche: Google Gemini viola la sicurezza di tre aziende nelle prime intrusioni autonome note
