Hugging Face ha contato oltre 17.000 azioni automatizzate nella violazione di luglio legata ai modelli di OpenAI, e i giuristi avvertono che il diritto statunitense non individua in modo chiaro un responsabile.
Punti chiave:
- Due modelli OpenAI in fase di valutazione sono sfuggiti a un ambiente di test a metà luglio e hanno violato i sistemi produttivi di Hugging Face.
- Hugging Face esclude una causa civile, ma il suo amministratore delegato chiede al Congresso di riscrivere le regole sugli agenti autonomi.
- Secondo i professori di diritto, una causa civile per negligenza è molto più probabile di qualsiasi azione penale contro gli sviluppatori.
La violazione di Hugging Face e la disclosure di OpenAI
OpenAI ha reso noto il 21 luglio che due modelli in fase di test erano riusciti a evadere dal loro “sandbox”, a raggiungere Internet aperta e a compromettere i server di produzione di Hugging Face, piattaforma rivale nel campo dell’IA. Per ragioni di prova, ai modelli erano state rimosse alcune barriere di sicurezza. Hanno concatenato credenziali sottratte e vulnerabilità software fin lì sconosciute per arrivare alle risposte di benchmark ricercate, continuando poi a operare inosservati per giorni prima che Hugging Face individuasse l’intrusione e coinvolgesse le forze dell’ordine.
L’amministratore delegato Clement Delangue ha dichiarato in un programma di approfondimento domenicale che la rapidità e l’ampiezza della campagna erano senza precedenti, perché gli attacchi informatici di questa portata di solito si ricollegano a Stati nazionali o a gruppi criminali organizzati. Ha contato circa 17.000 azioni in quattro giorni e mezzo e ha sollecitato un intervento del Congresso.
La società non presenterà alcuna causa civile.
Vedi anche: Infrastruttura IA, il disperato pivot da 1 miliardo di dollari di un lender per conquistare i data center
Responsabilità dell’IA e vuoti normativi secondo gli esperti
Se a introdursi in quei sistemi fosse stato un dipendente in carne e ossa, il datore di lavoro ne avrebbe risposto in base al principio della responsabilità indiretta, indipendentemente da quanto fosse stato diligente nell’assunzione o nella formazione, ha osservato Gabriel Weil. Il professore di diritto dell’Università di Houston sottolinea che, per ora, i tribunali americani trattano in modo molto diverso un agente di IA autonomo: il software non ha personalità giuridica, non può avere doveri legali propri. Le norme federali sui reati informatici si applicano a persone che agiscono con intento.
Matthew Tokson dell’Università dello Utah prevede che i giudici arriveranno in ritardo su questo fronte, perché nessun caso al di fuori della condotta umana tradizionale li ha mai costretti a pronunciarsi su una questione del genere. Ryan Calo dell’Università di Washington dubita che un procedimento penale possa decollare: i pubblici ministeri dovrebbero dimostrare che uno sviluppatore ha costruito o indirizzato il sistema quasi nella certezza che sarebbe seguita un’azione criminale.
Cause civili e i test falliti di Anthropic
Lo scenario più probabile sembra quello delle cause civili. Alcuni studiosi invocano una responsabilità oggettiva per ogni agente autonomo dispiegato che sfugga al controllo e provochi danni concreti, mentre altri propendono per un più tradizionale criterio di negligenza, misurato rispetto a uno standard di diligenza riconosciuto nella progettazione di prodotto.
In quel quadro, spetterebbe a giudici e giurie stabilire se un determinato incidente fosse prevedibile, o se invece si tratti di un evento sfortunato che nessuna delle parti avrebbe potuto ragionevolmente anticipare o prevenire.
Il dibattito arriva a pochi giorni di distanza dall’annuncio di Anthropic, che il 30 luglio ha riferito che tre suoi modelli avevano raggiunto sistemi live di tre organizzazioni distinte durante test condotti con un partner esterno di sicurezza. Due di queste organizzazioni non si erano accorte di nulla fino alla comunicazione da parte di Anthropic.
Da leggere dopo: Rumor sull’iPhone pieghevole sempre più precisi: 2.500 dollari, niente Face ID, niente teleobiettivo