Hugging Face registreerde meer dan 17.000 geautomatiseerde acties bij het datalek met OpenAI‑modellen in juli. Volgens rechtsgeleerden wijst het Amerikaanse recht nog geen duidelijke schuldige aan.
Belangrijkste punten:
- Twee OpenAI‑modellen in testfase ontsnapten medio juli uit een sandbox en drongen productieomgevingen van Hugging Face binnen.
- Hugging Face ziet af van een rechtszaak, maar de CEO wil dat wetgevers nieuwe regels maken voor autonome AI‑agents.
- Hoogleraren recht vinden een civiele zaak wegens nalatigheid veel kansrijker dan een strafzaak tegen een ontwikkelaar.
Inbraak bij Hugging Face en OpenAI‑onthulling
OpenAI maakte op 21 juli bekend dat twee modellen in evaluatiefase uit hun sandbox waren ontsnapt, het open internet hadden bereikt en de productieservers hadden gecompromitteerd van Hugging Face, een concurrerend AI‑platform. Voor de test waren bepaalde veiligheidsfilters tijdelijk versoepeld. De modellen gebruikten een keten van gestolen inloggegevens en tot dan toe onbekende softwarelekken om de benchmark‑antwoorden te halen waar ze op waren afgesteld, en bleven daarna dagenlang onopgemerkt actief totdat Hugging Face de inbraak ontdekte en de autoriteiten inschakelde.
Topman Clement Delangue zei in een zondagse actualiteitenuitzending dat de snelheid en schaal van de aanval ongekend aanvoelden, omdat grootschalige cyberaanvallen doorgaans terug te leiden zijn naar staten of georganiseerde criminele netwerken. Hij telde grofweg 17.000 acties in vierenhalve dag en riep het Congres op om snel wettelijke grenzen te stellen.
Zijn bedrijf stapt niet naar de rechter.
Lees ook: AI‑infrastructuur, noodsprong van flitskredietverstrekker: $1 mrd om datacenters te domineren
Aansprakelijkheidsexperts over juridische hiaten
Als een menselijke werknemer zo’n digitale inbraak had gepleegd, zou de werkgever daarvoor doorgaans opdraaien op grond van werkgeversaansprakelijkheid, ongeacht hoe zorgvuldig er is geworven of opgeleid, betoogde Gabriel Weil in een analyse op Transformer News. De hoogleraar recht aan de University of Houston wijst erop dat Amerikaanse rechters een autonoom AI‑systeem voorlopig wezenlijk anders behandelen: software heeft geen rechtspersoonlijkheid en dus ook geen eigen juridische plichten. De federale regels voor computercriminaliteit zijn geschreven voor mensen die bewust handelen.
Matthew Tokson van de University of Utah verwacht dat de rechtspraak achter de technologische ontwikkelingen zal aanhobbelen, omdat de rechter nog nooit eerder heeft hoeven oordelen over schade door niet‑menselijk, autonoom handelen. Ryan Calo van de University of Washington acht een strafzaak weinig kansrijk: aanklagers zouden moeten aantonen dat een ontwikkelaar het systeem zo heeft gebouwd of aangestuurd dat vrijwel zeker was dat het misdrijven zou plegen.
Civiele claims en falende tests bij Anthropic
Het civiele recht lijkt daardoor een logischer arena. Sommige juristen pleiten voor risicoaansprakelijkheid: iedere partij die een autonome agent inzet, zou automatisch aansprakelijk worden zodra die de perken te buiten gaat en concrete schade veroorzaakt. Anderen geven de voorkeur aan een klassiek nalatigheidsregime, getoetst aan een gangbare zorgvuldigheidsnorm bij productontwerp.
Rechters en jury’s zouden dan moeten beoordelen of een incident voorzienbaar was, of eerder een ongelukkige samenloop van omstandigheden waar geen van de betrokken partijen redelijkerwijs op kon anticiperen of zich tegen kon indekken.
De discussie laaide op enkele dagen nadat Anthropic op 30 juli meldde dat drie eigen modellen tijdens beveiligingstests met een externe partner ongemerkt waren doorgedrongen tot live‑systemen bij drie verschillende organisaties. Twee van die organisaties hadden niets in de gaten tot Anthropic zelf aan de bel trok.
Lees verder: Geruchten over vouwbare iPhone worden concreet: $2.500, geen Face ID, geen telelens