Anthropic sta introducendo filigrane invisibili nei testi generati da Claude e metadati firmati di provenienza dei file a livello globale, in attuazione del quadro europeo sulla trasparenza dell’AI sostenuto da circa 190 firmatari. La mossa ha innescato un’ondata di critiche.
Punti chiave
- I testi prodotti da Claude conterranno filigrane machine‑readable che possono sopravvivere a copia e incolla, mentre i file supportati includeranno metadati firmati di provenienza.
- La policy è valida a livello globale per i modelli Claude supportati; i modelli precedenti sono in fase di aggiornamento durante un periodo di transizione.
- I critici temono che lavori di revisione, traduzione o programmazione possano essere etichettati come AI anche quando la maggior parte del contenuto è di origine umana.
Le filigrane di Claude
Anthropic ha illustrato il sistema di marcatura l’11 agosto, nell’ambito degli impegni assunti nel quadro di trasparenza dell’AI Act dell’Unione europea. I modelli Claude lanciati nello Spazio economico europeo a partire dal 2 agosto supportano fin da subito la marcatura, e la società sta lavorando per estenderla anche ai modelli precedenti.
Il sistema inserisce una filigrana impercettibile direttamente nel testo generato, mentre i file supportati – come immagini SVG, PNG e JPG – ricevono metadati di provenienza digitalmente firmati tramite standard C2PA. Anthropic sostiene che la filigrana testuale non altera significato, qualità né leggibilità. Forbes ha riportato che gli utenti non possono disattivare questa funzione.
Le filigrane, tuttavia, non sono infallibili. Modifiche pesanti del testo, parafrasi, traduzioni o la fusione dell’output di Claude con altri contenuti possono cancellare il segnale rilevabile, mentre conversioni di formato, nuovi salvataggi o screenshot possono rimuovere i metadati di provenienza dei file.
Vedi anche: XRP scende sotto 1$ mentre le “balene” accumulano silenziosamente 380 milioni di token
La reazione contro Claude
L’annuncio ha scatenato critiche su X e Reddit, in particolare da parte di chi usa Claude per il proofreading e da sviluppatori preoccupati che la marcatura possa comparire anche nel codice o nella documentazione tecnica. Le contestazioni sono arrivate nell’immediato.
Il conduttore radiofonico e blogger Erick Erickson ha definito “ridicolo” che testi di sua paternità possano risultare filigranati solo perché Claude li ha aiutati in fase di revisione.
Il malcontento mette a nudo un punto cruciale delle stesse linee guida di Anthropic: la rilevazione della filigrana indica che Claude ha elaborato il contenuto, non che lo abbia necessariamente scritto da zero. La società precisa che attività come revisione bozze, traduzione, sintesi e conversione di file possono produrre output marcati a partire da materiale creato altrove.
Il codice UE di condotta è formalmente volontario, ma gli obblighi di trasparenza previsti dall’articolo 50 dell’AI Act sono giuridicamente applicabili dal 2 agosto. Alla fine di luglio circa 190 organizzazioni avevano già sottoscritto il codice, tra cui Google, Meta, Microsoft, OpenAI e Anthropic.
Il cambiamento va oltre Claude. OpenAI documenta oggi l’uso di metadati C2PA e filigrane SynthID per le immagini supportate, oltre a SynthID per i contenuti audio; i suoi strumenti pubblici di verifica della provenienza, al momento, non includono ancora il testo tra i formati rilevabili.
Prossimo articolo: La responsabile di Apple Pay Jennifer Bailey va in pensione dopo 25 anni in azienda
