Anthropic ha pubblicato un rapporto all’inizio di giugno 2026 in cui invita i principali laboratori di intelligenza artificiale a sviluppare un meccanismo coordinato in grado di rallentare o fermare lo sviluppo di IA avanzata se le condizioni di sicurezza dovessero deteriorarsi.
Punti chiave
- Anthropic ha pubblicato un rapporto avvertendo che i sistemi di IA si stanno avvicinando a una soglia oltre la quale potrebbero auto‑migliorarsi in modo ricorsivo.
- L’azienda ha esortato i principali laboratori di IA a preparare un meccanismo coordinato per rallentare o fermare lo sviluppo se i rischi per la sicurezza dovessero aumentare.
- Anthropic ha avvertito che il rapido progresso potrebbe superare la capacità umana di monitorare e correggere il comportamento dell’IA.
- L’appello segue le notizie secondo cui il modello Claude di Anthropic avrebbe scritto parti del proprio codice.
- Il rapporto si inserisce in un più ampio dibattito politico mentre il Congresso degli Stati Uniti valuta nuove leggi sulla sicurezza dell’IA.
Al Jazeera ha riportato il contenuto del documento, che avverte che i sistemi di IA si stanno avvicinando a una soglia oltre la quale potrebbero progettare e costruire versioni migliorate di se stessi più velocemente di quanto gli ingegneri umani possano monitorare o intervenire. Anthropic descrive questa dinamica di auto‑miglioramento ricorsivo come un rischio concreto a breve termine, non una preoccupazione speculativa di lungo periodo.
Cosa dice il rapporto di Anthropic
L’affermazione centrale è tecnica e specifica. Anthropic sostiene che le attuali pipeline di addestramento dell’IA già permettono ai modelli di contribuire, seppur in modo limitato, al proprio miglioramento. Claude, il modello di punta dell’azienda, avrebbe scritto parti del proprio codice durante i cicli di sviluppo.
Il rapporto non chiede un blocco immediato. Chiede preparazione. Anthropic vuole che i laboratori di frontiera, incluso il proprio, concordino in anticipo delle soglie che farebbero scattare una pausa e che dispongano dell’infrastruttura necessaria per attuarla rapidamente.
L’impostazione è coerente con la posizione pubblica più ampia di Anthropic. Sin dalla sua fondazione, l’azienda sostiene che sviluppare IA potenti costruendo al contempo barriere di sicurezza sia il percorso responsabile, una posizione che definisce “scaling responsabile”. Il nuovo rapporto afferma di fatto che il lato della sicurezza di questa equazione deve muoversi più velocemente.
Il documento solleva anche la questione di chi dovrebbe coordinare una tale pausa. Non esiste un organismo di governance internazionale con poteri di applicazione sullo sviluppo dell’IA. Il rapporto invoca implicitamente un coordinamento volontario tra aziende private, che i critici considerano il modello di applicazione più debole possibile.
Also Read: Justin Sun Escalates Fight With WLFI As HTX Removes USD1
Il contesto politico a Washington
L’avvertimento di Anthropic arriva nel mezzo di un acceso dibattito al Congresso. Una bozza bipartisan in discussione alla Camera questa settimana imporrebbe obblighi di sicurezza e audit indipendenti ai più potenti sviluppatori di IA del paese. Il disegno di legge prende di mira in particolare i laboratori di frontiera, una categoria che include Anthropic, OpenAI e Google DeepMind.
Un altro, più ampio disegno di legge sull’IA è stato approvato in commissione alla Camera il 4 giugno 2026. Tale provvedimento congelerebbe per tre anni le leggi statali sulla tutela dei consumatori in materia di IA mentre vengono definiti standard federali.
L’amministrazione Trump ha aggiunto un ulteriore livello di complessità. La Casa Bianca ha emanato questa settimana un ordine esecutivo che crea una finestra di revisione volontaria di 30 giorni per i modelli di IA di frontiera, consentendo alle agenzie di sicurezza nazionale un accesso anticipato prima del rilascio pubblico. Si parla anche di colloqui in corso tra l’amministrazione e OpenAI su una possibile partecipazione azionaria del governo.
L’appello di Anthropic per un meccanismo di pausa si inserisce in questo contesto tanto come mossa di strutturazione del mercato quanto come misura di sicurezza. Se venisse istituito un quadro di sospensione con l’appoggio del governo, probabilmente favorirebbe le aziende già sulla frontiera, poiché i concorrenti più piccoli non avrebbero le risorse per riprendere l’attività su larga scala dopo un blocco.
Also Read: Trump Administration Eyes Government Stake in OpenAI
Reazioni e dinamiche del settore
Il settore dell’IA non ha accolto in modo uniforme l’impostazione di Anthropic. Il responsabile dell’IA di Microsoft, Mustafa Suleiman, ha dichiarato questa settimana che Microsoft punta a entrare nel gruppo di vertice dei laboratori di IA in modo indipendente, lasciando intendere che l’azienda è più concentrata sull’accelerazione che sulla moderazione. Tencent ha contemporaneamente assunto un ex ricercatore di OpenAI come chief AI scientist per spingere il proprio sforzo verso l’AGI.
Questi due elementi illustrano il problema di azione collettiva evidenziato dal rapporto di Anthropic. Una pausa unilaterale da parte di un laboratorio avvantaggia i rivali che continuano lo sviluppo. Senza un coordinamento vincolante, l’appello a un meccanismo di pausa resta aspirazionale.
La valutazione da 965 miliardi di dollari di Anthropic, raggiunta dopo un recente round di Serie H, le conferisce margine finanziario per assorbire un rallentamento dello sviluppo in un modo che i laboratori più piccoli non possono permettersi. Questa asimmetria è rilevante nel valutare l’impegno dell’azienda sulla sicurezza.
La pubblicazione del rapporto arriva anche mentre il modello Claude di Anthropic compete direttamente con GPT‑5.5 e con la famiglia Gemini di Google per i contratti enterprise. Il posizionamento sulla sicurezza può diventare un elemento di differenziazione commerciale per i clienti in settori regolamentati.
Read Next: Tencent Hires Former OpenAI Researcher Yao Shunyu as Chief AI Scientist