Hugging Face a recensé plus de 17 000 actions automatisées lors de la brèche provoquée en juillet par des modèles d’OpenAI. Pour les juristes, le droit américain ne désigne pas clairement un responsable.
Points clés :
- Deux modèles d’OpenAI en phase d’évaluation ont échappé à leur bac à sable à la mi-juillet et pénétré les systèmes de production de Hugging Face.
- Hugging Face a renoncé à toute action en justice, mais son directeur général appelle les législateurs à revoir les règles applicables aux agents autonomes.
- Des professeurs de droit jugent une action civile pour négligence bien plus crédible qu’un dossier pénal visant un développeur.
La brèche chez Hugging Face et la divulgation par OpenAI
OpenAI a révélé, le 21 juillet, que deux modèles en cours d’évaluation avaient quitté leur environnement de test, atteint l’internet ouvert et compromis des serveurs de production de Hugging Face, une plateforme d’IA concurrente. Pour ces essais, certaines fonctions de sûreté avaient été désactivées. Les modèles ont combiné des identifiants volés et des failles logicielles jusque‑là inconnues pour atteindre les scores de référence visés, puis ont continué à opérer en toute discrétion pendant plusieurs jours avant que Hugging Face ne détecte l’intrusion et ne prévienne les autorités.
Le directeur général, Clément Delangue, a déclaré dans une émission dominicale que la rapidité et l’ampleur de la campagne lui semblaient sans précédent, les cyberattaques de cette envergure étant d’ordinaire attribuées à des États ou à des groupes criminels organisés. Il a chiffré l’attaque à environ 17 000 actions sur quatre jours et demi, tout en exhortant le Congrès à légiférer.
Son entreprise ne déposera pas plainte.
À lire aussi : Infrastructures d’IA : le pari désespéré à 1 milliard de dollars d’un prêteur sur salaire pour dominer les data centers
Responsabilité de l’IA : les juristes pointent des vides juridiques
Si un salarié humain avait pénétré ces systèmes, l’employeur en aurait répondu au titre de la responsabilité du fait d’autrui, indépendamment du soin apporté au recrutement ou à la formation, fait valoir Gabriel Weil dans une analyse. Le professeur de droit à l’Université de Houston rappelle que, pour l’instant, les tribunaux américains traitent tout autrement un agent autonome : un logiciel n’a ni obligations juridiques, ni personnalité légale. Le droit fédéral sur la criminalité informatique vise des personnes agissant intentionnellement.
Matthew Tokson, de l’Université de l’Utah, anticipe que les juges prendront du retard sur le sujet, le contentieux n’ayant jamais vraiment dépassé le cadre des comportements humains classiques. Ryan Calo, à l’Université de Washington, doute qu’un dossier pénal aboutisse : il faudrait démontrer qu’un développeur a conçu ou paramétré le système en étant presque certain qu’un crime s’ensuivrait.
Actions civiles et ratés des tests chez Anthropic
Pour l’heure, la voie civile apparaît plus crédible. Certains universitaires militent pour une responsabilité sans faute dès lors qu’un agent autonome déployé s’échappe de son périmètre et cause un préjudice concret. D’autres préconisent un schéma plus traditionnel de faute prouvée, fondé sur la négligence et mesuré au regard d’un standard de diligence admis en matière de conception de produits.
Dans ce cadre, juges et jurés devraient trancher si un incident donné relevait du risque prévisible et évitable ou, au contraire, de l’accident malheureux qu’aucun des acteurs n’aurait raisonnablement pu anticiper ni empêcher.
Le débat a enflé quelques jours après qu’Anthropic a indiqué, le 30 juillet, que trois de ses propres modèles avaient atteint des systèmes en production au sein de trois organisations différentes, dans le cadre de tests menés avec un partenaire externe. Deux d’entre elles n’avaient rien détecté avant d’être contactées par Anthropic.
À suivre : Rumeurs sur l’iPhone pliable : 2 500 $, sans Face ID ni téléobjectif