OpenAI e Meta hanno messo in guardia i giudici federali: gli strumenti per individuare audio e video generati dall’intelligenza artificiale potrebbero non essere mai pienamente affidabili, anche se finora solo 15 dei 931 magistrati interpellati si sono imbattuti in controversie su presunti deepfake.
Punti chiave:
- OpenAI e Meta hanno riferito a una commissione federale sulla prova, a Boston, che audio e video prodotti dall’AI sono sempre più difficili da autenticare.
- Un legale di OpenAI ha affermato che watermark e strumenti di rilevazione non saranno mai del tutto affidabili.
- I giudici stanno studiando una proposta di norma sui deepfake, ma non l’hanno ancora approvata.
L’allarme di OpenAI sui deepfake
I rappresentanti delle due big tech hanno esposto le loro preoccupazioni il 15 ottobre, durante una riunione a Boston del Comitato consultivo sulle norme probatorie della U.S. Judicial Conference, che lavora sul tema dal 2023.
Shira Anderson, policy counsel di OpenAI, ha spiegato al comitato che la qualità delle immagini generate dall’AI continua a migliorare e che non si attende, in prospettiva, un metodo scientifico in grado di identificarle con certezza. Nuove leggi in California e nell’Unione Europea impongono già l’uso di watermark. Ma ogni società adotta un proprio sistema, ha osservato Anderson, per cui non esiste uno standard comune che consenta di verificare tutti i contenuti visivi. E ha espresso scetticismo sul fatto che gli strumenti di rilevazione possano mai diventare “a prova di bomba”.
Devin Norder, direttore della gestione prodotto di Meta, ha aggiunto che il pubblico non è in grado di distinguere i contenuti realizzati con i più recenti modelli di AI dal materiale autentico. E produrre questi contenuti, ha sottolineato, richiede ormai pochissimo tempo e costi limitati.
Da leggere anche: Bitcoin tiene quota 80.000$: pausa prima dell’assalto a 87.000$?
L’esame dei deepfake guidato da Jesse Furman
Il giudice federale Jesse Furman di Manhattan, che presiede il panel, ha rilevato come le previsioni accademiche su un’ondata di deepfake nei tribunali non si siano, per ora, tradotte in un numero significativo di casi reali. I dati lo confermano: in un sondaggio del Federal Judicial Center di marzo, solo 15 dei 931 giudici che hanno risposto si sono trovati di fronte a una contestazione di prove considerate deepfake.
Furman ha quindi istituito una sottocommissione incaricata di approfondire il tema. Il gruppo ha redatto, ma non ancora approvato, un emendamento denominato Rule 901(c), secondo cui la parte che sostiene la falsità di un contenuto dovrebbe prima fornire elementi a supporto, prima che ricada sulla controparte l’onere di dimostrare che il materiale è, con ogni probabilità, autentico.
All’interno del panel non manca però chi invita alla prudenza. La giudice Valerie Caproni ha messo in guardia dal rischio di affrettare una norma ad hoc sull’AI senza prove solide che i deepfake siano già diventati un problema sistemico nelle aule di giustizia.
A suo avviso, i tribunali si confrontano da sempre con la presentazione di prove false, e l’ordinamento dispone già di strumenti per sanzionare condotte fraudolente.
Nel maggio 2025, la commissione ha deciso di non recepire le proposte avanzate da vari esperti di diritto in materia di regole specifiche sui deepfake, sostenendo che gli standard di autenticità esistenti siano, almeno per ora, sufficienti a governare anche le prove generate dall’AI.
Pochi mesi dopo, però, la giudice della Superior Court della contea di Alameda, Victoria Kolakowski, ha archiviato una causa civile in materia abitativa in California, dopo aver accertato che gli attori avevano presentato come genuina la testimonianza video di un testimone creata in realtà con l’intelligenza artificiale.
Prossimo articolo: Il rally del 39,6% delle crypto ha un problema: gli acquirenti spot non tengono il passo
