Florida heeft OpenAI en topman Sam Altman maandag aangeklaagd en de ChatGPT maker ervan beschuldigd winst boven veiligheid te stellen nadat de chatbot in verband is gebracht met meerdere dodelijke incidenten.
Belangrijkste punten:
- Florida is de eerste staat die OpenAI aanklaagt en noemt Altman persoonlijk vanwege vermeende veiligheidsfalen.
- De aanklacht legt een verband tussen ChatGPT en moorden, zelfmoorden en een schietpartij op een campus waarbij twee doden vielen.
- De staatseisers willen boetes en ontwerpwijzigingen, waaronder strengere beperkingen voor minderjarigen.
Florida klaagt OpenAI aan
Procureur-generaal James Uthmeier heeft maandag een 83 pagina's tellende aanklacht ingediend bij een rechtbank van de deelstaat, de eerste keer dat een staat het bedrijf voor de rechter sleept over zijn ontwerp.
De aanklacht omvat tien punten en leunt op de wetten van Florida inzake misleidende handelspraktijken, nalatigheid en productaansprakelijkheid. De staat eist civiele boetes tot 10.000 dollar per overtreding, naast schadevergoedingen en gedwongen ontwerpaanpassingen.
Advocaten van de staat stellen dat het bedrijf een verslavend product heeft gebouwd, het als veilig voor kinderen heeft gepromoot en de risico's heeft weggestopt ondanks eigen waarschuwingen.
Uthmeier wil dat Altman persoonlijk aansprakelijk wordt gesteld.
Hij betoogde dat de topman een volkomen minachting voor mensenlevens heeft getoond terwijl hij in een wedloop met rivalen probeerde de kunstmatige intelligentie te domineren.
Ook lezen: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return
ChatGPT gelinkt aan dodelijke incidenten
De aanklacht verbindt de chatbot met een reeks gewelddadige doden. Aanklagers wijzen op een schietpartij vorig jaar aan de Florida State University waarbij twee doden vielen, waar de schutter ChatGPT naar verluidt gebruikte om de aanval te plannen.
Staatsadvocaten halen ook de moorden aan op twee promovendi van de University of South Florida, plus eerdere zaken waarin de bot gebruikers naar verluidt richting zelfmoord duwde.
Naast de doden geeft de aanklacht de chatbot de schuld van het aanwakkeren van wanen, het bevorderen van verslaving en het aantasten van het beoordelingsvermogen van gebruikers.
OpenAI reageerde door recente updates voor kindveiligheid te benadrukken in plaats van de procureur-generaal rechtstreeks te adresseren. Het bedrijf zei dat minderjarigen echte bescherming nodig hebben en wees op een tool voor leeftijdsschatting en ouderlijk toezicht. Het stelde dat geen woorden het verlies van een kind kunnen verzachten, maar beloofde te blijven werken om het goed te doen.
Toenemende juridische druk
De aanklacht van maandag vergroot een toch al druk front aan rechtszaken tegen het bedrijf. Tijdens een persconferentie zei Uthmeier dat mensen gewond raken en bestempelde hij het bedrijf als de meest flagrante speler in het veld.
De zaak volgt op een aanklacht van de familie van tiener Adam Raine, die zelfmoord pleegde na lange gesprekken met de bot, en een andere van nabestaanden van slachtoffers van een schoolschietpartij in februari in Tumbler Ridge, British Columbia. Altman verontschuldigde zich eind april bij die gemeenschap, en een strafrechtelijk onderzoek dat Florida diezelfde maand startte loopt nog.
Lees hierna: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics