OpenAI e Meta hanno avvertito un panel di giudici federali che gli strumenti per individuare audio e video generati dall’intelligenza artificiale potrebbero non diventare mai pienamente affidabili, sebbene solo 15 dei 931 magistrati interpellati si siano già confrontati con questo tipo di controversie.
Punti chiave:
- OpenAI e Meta hanno spiegato a un panel federale sulla prova a Boston che audio e video creati dall’IA sono sempre più difficili da autenticare.
- Un legale di OpenAI ha affermato che watermark e strumenti di rilevazione non saranno mai totalmente affidabili.
- I giudici stanno studiando una bozza di norma ad hoc sui deepfake ma non l’hanno ancora approvata.
L’allarme di OpenAI sui deepfake
I rappresentanti delle due società hanno illustrato le loro preoccupazioni il 15 ottobre, durante una riunione a Boston del Comitato consultivo sulle regole probatorie della U.S. Judicial Conference, che lavora sul tema dal 2023.
Shira Anderson, policy counsel di OpenAI, ha spiegato al comitato che le immagini generate dall’IA continuano a migliorare e che non si aspetta l’emergere di un metodo scientifico davvero risolutivo per individuarle. Nuove normative in California e nell’Unione Europea prevedono già l’uso di watermark. Ma ogni società adotta un proprio sistema, ha osservato Anderson, per cui non esiste uno standard universale in grado di verificare tutti i contenuti visivi, e ha espresso dubbi sul fatto che questi strumenti possano mai diventare “a prova di bomba”.
Devin Norder, direttore del product management di Meta, ha aggiunto che ormai è estremamente difficile distinguere i contenuti prodotti dai modelli di IA di ultima generazione da quelli autentici. Realizzarli richiede ormai pochissimo tempo e risorse economiche, ha sottolineato.
Da leggere anche: Il Bitcoin tiene quota 80.000$: pausa prima dell’assalto a 87.000$?
L’analisi di Jesse Furman sui deepfake in tribunale
Il giudice federale Jesse Furman di Manhattan, presidente del panel, ha rilevato come le previsioni del mondo accademico sull’ondata di deepfake nei tribunali non si siano per ora tradotte in un numero elevato di casi concreti. I dati lo confermano: in un sondaggio del Federal Judicial Center condotto a marzo, solo 15 dei 931 giudici che hanno risposto hanno riferito che una delle parti avesse contestato una prova definendola deepfake.
Furman ha poi istituito una sottocommissione dedicata ad approfondire il dossier. Il gruppo ha redatto — ma non ancora approvato — un emendamento noto come Regola 901(c), secondo cui chi denuncia la falsificazione dovrebbe prima fornire elementi a sostegno della propria tesi, prima che l’altra parte sia tenuta a dimostrare che il materiale è, con più probabilità che no, autentico.
All’interno del panel non manca chi invoca prudenza. La giudice Valerie Caproni ha invitato a non correre verso una norma specifica sull’IA in assenza di prove più solide che i deepfake abbiano già assunto proporzioni sistemiche nelle aule di giustizia.
Caproni ha ricordato che i tribunali si confrontano da sempre con tentativi di presentare prove false e che le leggi attuali vietano già in modo esplicito le produzioni fraudolente.
Nel maggio 2025, il panel ha scelto di non recepire le proposte di alcuni esperti per introdurre regole mirate sui deepfake, sostenendo che gli standard di autenticazione esistenti siano sufficienti a inquadrare anche le prove generate dall’IA.
Pochi mesi più tardi, la giudice della Superior Court della Contea di Alameda, Victoria Kolakowski, ha archiviato un caso di contenzioso abitativo in California dopo aver accertato che gli attori avevano presentato come legittima una testimonianza video generata dall’IA.
Da leggere dopo: Il rally del 39,6% delle crypto ha un problema: gli acquirenti spot non tengono il passo
