Anthropic sta introducendo filigrane invisibili nei testi generati da Claude e metadati di provenienza firmati per i file a livello globale, in attuazione del quadro di trasparenza dell’UE e con il sostegno di circa 190 firmatari. La mossa ha però scatenato una forte reazione da parte degli utenti.
Punti chiave
- I testi prodotti da Claude conterranno filigrane leggibili dalle macchine, pensate per restare anche dopo copia e incolla, mentre i file supportati avranno metadati di provenienza firmati.
- La policy si applica a livello globale ai modelli Claude supportati; i modelli più vecchi stanno venendo aggiornati durante una fase di transizione.
- I critici temono che lavori di correzione bozze o attività di coding possano essere etichettati come AI anche quando la gran parte del contenuto è umano.
Le filigrane di Claude
Anthropic ha illustrato il sistema di marcatura l’11 agosto, nell’ambito degli impegni assunti rispetto al framework di trasparenza previsto dall’AI Act dell’Unione Europea. I modelli Claude lanciati nell’UE dal 2 agosto in poi supportano la marcatura fin dal debutto, mentre l’azienda sta lavorando per estendere il sistema anche alle versioni precedenti.
Il meccanismo inserisce una filigrana impercettibile direttamente nel testo generato, mentre i file supportati – come immagini SVG, PNG e JPG – ricevono metadati di provenienza C2PA firmati digitalmente. Anthropic sostiene che la filigrana testuale non incida su significato, qualità o leggibilità del contenuto. Forbes ha riportato che gli utenti non possono disattivare questa funzione.
Il sistema ha però dei limiti. Modifiche pesanti, parafrasi, traduzioni o la fusione dell’output di Claude con altro testo possono cancellare il segnale rilevabile nel testo; allo stesso modo, conversioni di formato, nuovi salvataggi o screenshot possono eliminare i metadati di provenienza dai file.
Da leggere anche: XRP scende sotto 1 dollaro mentre le “balene” accumulano 380M token
La reazione contro Claude
L’annuncio ha scatenato critiche su X e Reddit, in particolare da parte di chi utilizza Claude per la correzione di bozze e di sviluppatori preoccupati per la presenza di marcature nel codice o in attività correlate. Le reazioni non si sono fatte attendere.
Il conduttore radiofonico e blogger Erick Erickson ha definito “ridicolo” che un testo da lui scritto possa risultare filigranato solo perché Claude lo ha aiutato nella revisione.
La contestazione mette in luce un punto cruciale nelle stesse linee guida di Anthropic: il rilevamento di una filigrana indica che Claude può aver elaborato quel contenuto, non che ne sia l’autore originario. La società specifica che attività come correzione bozze, traduzione, sintesi o conversione di file possono produrre output “marcato” a partire da materiale creato altrove.
Il codice UE è volontario, ma gli obblighi di trasparenza dell’Articolo 50 dell’AI Act sono diventati giuridicamente vincolanti il 2 agosto. Entro fine luglio, circa 190 organizzazioni avevano sottoscritto il codice, tra cui Google, Meta, Microsoft, OpenAI e Anthropic.
Il cambiamento va oltre Claude. OpenAI documenta ora l’uso di metadati C2PA e filigrane SynthID per le immagini supportate, oltre alle filigrane SynthID per l’audio, mentre gli attuali strumenti pubblici di verifica della provenienza non includono ancora il testo tra i formati rilevabili.
Prossimo articolo: La responsabile di Apple Pay Jennifer Bailey si ritira dopo 25 anni in azienda
