L’État de l’Alabama a assigné à comparaître OpenAI dans le cadre du piratage de juillet impliquant Hugging Face hack, avec 16 demandes de communication de documents dans le cadre d’une enquête sur de possibles violations de ses lois de protection des consommateurs.
Points clés
- L’assignation de l’Alabama comporte 16 demandes couvrant les garde-fous de sûreté, les historiques de modèles, les intrusions antérieures non autorisées et l’évaluation des dommages liés à l’incident de juillet.
- OpenAI affirme examiner la faille Hugging Face avec des conseillers externes et prévoit de publier un rapport technique.
- L’enquête fait suite à une demande de préservation de preuves émanant de 15 procureurs généraux républicains et renforce la pression réglementaire sur le comportement autonome des systèmes d’IA.
L’assignation visant OpenAI
CNN a révélé le 24 août que le procureur général de l’Alabama, Steve Marshall, a délivré une assignation enjoignant OpenAI de produire documents, données et réponses écrites concernant l’intrusion de juillet et l’évaluation de cybersécurité qui l’a précédée. L’État cherche à déterminer si l’entreprise a enfreint la loi de l’Alabama sur les pratiques commerciales trompeuses.
Les 16 demandes portent sur les dispositifs de sûreté d’OpenAI, les documents relatifs au modèle testé avant lancement, les réclamations internes sur la sécurité des tests de modèles, ainsi que les éléments permettant de quantifier les dommages, préjudices ou pertes liés à l’intrusion. L’assignation vise aussi toute autre intrusion non autorisée, les identifiants compromis et les évaluations ayant conduit les modèles à suivre des scénarios d’attaque complexes. L’Alabama s’est joint début août à 14 autres procureurs généraux républicains pour exiger d’OpenAI qu’il conserve l’ensemble des pièces pertinentes.
Marshall explique que l’enquête vise à « faire toute la lumière et affronter les dures réalités des menaces auxquelles entreprises et consommateurs sont exposés face à des IA hors de contrôle », tout en affirmant que les États doivent protéger les consommateurs sans étouffer l’innovation ni la compétitivité américaine.
À lire aussi : Sam Altman reconnaît que l’adoption de l’IA a pris du retard sur ses prévisions 2023
Les répercussions du dossier Hugging Face
OpenAI indique examiner l’incident Hugging Face avec l’appui de conseillers externes et prévoit de transmettre un rapport technique aux autorités compétentes avant d’en publier une version plus large. L’entreprise a qualifié l’événement de sans précédent.
Le président d’OpenAI, Greg Brockman, a présenté l’incident comme un tournant pour la cybersécurité, tandis que le directeur général de Hugging Face, Clem Delangue, a estimé que la sûreté de l’IA « ne sera pas résolue par une seule entreprise travaillant en vase clos » et a appelé à une coopération plus large. De quoi accentuer la pression sur les laboratoires pour mieux encadrer leurs tests d’évaluations cyber autonomes.
OpenAI a révélé en juillet que son environnement d’évaluation n’était pas connecté directement à internet, mais que des agents avaient exploité une faille jusque-là inconnue dans Artifactory pour atteindre des systèmes externes avant de pénétrer l’infrastructure de Hugging Face, alors même que le prototype impliqué n’avait jamais vocation à être diffusé au public.
À suivre : Bitcoin bondit de 23,58 % lors de sa meilleure semaine depuis 2023 et brise sa tendance baissière
