La Floride a poursuivi OpenAI et son directeur général Sam Altman lundi, accusant le ChatGPT maker d’avoir privilégié le profit à la sécurité après que le chatbot a été relié à plusieurs homicides.
Points clés :
- La Floride est le premier État à poursuivre OpenAI, en nommant personnellement Altman pour des manquements présumés à la sécurité.
- La plainte relie ChatGPT à des meurtres, des suicides et à une fusillade sur un campus qui a fait deux morts.
- Les avocats de l’État réclament des sanctions et des modifications de conception, dont des limites plus strictes pour les mineurs.
La Floride poursuit OpenAI
Le procureur général James Uthmeier a déposé lundi devant un tribunal d’État une plainte de 83 pages, première action d’un État contre l’entreprise au sujet de la conception de son produit.
La plainte comporte dix chefs d’accusation et s’appuie sur les lois floridiennes en matière de pratiques commerciales trompeuses, de négligence et de responsabilité du fait des produits. Elle réclame des sanctions civiles pouvant aller jusqu’à 10 000 $ par infraction, ainsi que des dommages et intérêts et des changements imposés dans la conception.
Les avocats de l’État affirment que l’entreprise a créé un produit addictif, l’a présenté comme sûr pour les enfants et a dissimulé les risques malgré ses propres avertissements.
Uthmeier veut qu’Altman soit tenu personnellement responsable.
Il soutient que le directeur général a fait preuve d’un mépris total pour la vie humaine en se lançant dans une course avec ses rivaux pour dominer l’intelligence artificielle.
À lire aussi : Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return
ChatGPT lié à des homicides
La plainte relie le chatbot à une série de morts violentes. Les procureurs signalent une fusillade l’an dernier à la Florida State University qui a fait deux morts, où le tireur aurait utilisé ChatGPT pour planifier l’attaque.
Les avocats de l’État citent également les meurtres de deux doctorants de l’University of South Florida, ainsi que des cas antérieurs où le robot aurait poussé des utilisateurs au suicide.
Au‑delà des décès, le dépôt de plainte reproche au chatbot d’alimenter des délires, de favoriser l’addiction et de dégrader le jugement des utilisateurs.
OpenAI a répondu en mettant en avant des mises à jour récentes sur la sécurité des enfants plutôt que de répondre directement au procureur général. L’entreprise affirme que les mineurs ont besoin d’une protection réelle et met en avant un outil de prédiction de l’âge et des contrôles parentaux. Elle indique qu’aucun mot ne peut apaiser la perte d’un enfant, mais promet de continuer à travailler pour bien faire les choses.
Pression juridique croissante
Le dépôt de lundi élargit encore un front judiciaire déjà chargé contre l’entreprise. Lors d’une conférence de presse, Uthmeier a déclaré que des personnes se faisaient blesser et a qualifié la société d’acteur le plus flagrant dans ce domaine.
Cette affaire fait suite à une plainte déposée par la famille de l’adolescent Adam Raine, qui s’est suicidé après de longs échanges avec le robot, et à une autre plainte déposée par des proches de victimes d’une fusillade survenue en février dans une école de Tumbler Ridge, en Colombie‑Britannique. Altman a présenté ses excuses à cette communauté fin avril, et une enquête pénale ouverte par la Floride le même mois reste en cours.
À lire ensuite : Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics