Florida demandó a OpenAI y al director ejecutivo Sam Altman el lunes, acusando al ChatGPT maker de anteponer las ganancias a la seguridad después de que el chatbot fuera vinculado a varios asesinatos.
Puntos clave:
- Florida es el primer estado en demandar a OpenAI, mencionando personalmente a Altman por presuntas fallas de seguridad.
- La demanda vincula a ChatGPT con homicidios, suicidios y un tiroteo en un campus que dejó dos personas muertas.
- Los abogados del estado buscan sanciones y cambios de diseño, incluidos límites más estrictos para menores.
Florida demanda a OpenAI
El fiscal general James Uthmeier presentó el lunes la demanda de 83 páginas en un tribunal estatal, la primera vez que un estado lleva a la empresa a los tribunales por su diseño.
La demanda abarca diez cargos y se apoya en las leyes de Florida sobre prácticas comerciales engañosas, negligencia y responsabilidad por productos. Busca sanciones civiles de hasta 10.000 dólares por infracción, además de daños y cambios forzados en el diseño.
Los abogados del estado afirman que la empresa creó un producto adictivo, lo promocionó como seguro para niños y ocultó los riesgos a pesar de sus propias advertencias.
Uthmeier quiere que Altman sea considerado personalmente responsable.
Sostuvo que el director ejecutivo mostró un total desprecio por la vida humana mientras corría contra sus rivales para dominar la inteligencia artificial.
También lee: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return
ChatGPT vinculado a muertes
La demanda vincula al chatbot con una serie de muertes violentas. Los fiscales señalan un tiroteo el año pasado en la Universidad Estatal de Florida que mató a dos personas, donde el atacante supuestamente usó ChatGPT para planear el ataque.
Los abogados del estado también citan los asesinatos de dos estudiantes de posgrado de la Universidad del Sur de Florida, además de casos anteriores en los que el bot supuestamente empujó a usuarios al suicidio.
Más allá de las muertes, el escrito culpa al chatbot de alimentar delirios, fomentar la adicción y erosionar el juicio de los usuarios.
OpenAI respondió destacando actualizaciones recientes de seguridad infantil en lugar de responder directamente al fiscal general. La empresa dijo que los menores necesitan una protección real y señaló una herramienta de predicción de edad y controles parentales. Afirmó que ninguna palabra puede aliviar la pérdida de un hijo, pero prometió seguir trabajando para hacerlo bien.
Creciente presión legal
La presentación del lunes amplía un frente legal ya abarrotado contra la empresa. En una conferencia de prensa, Uthmeier dijo que la gente estaba resultando herida y calificó a la firma como el actor más atroz del sector.
Sigue a una demanda de la familia del adolescente Adam Raine, que murió por suicidio tras largos intercambios con el bot, y a otra de familiares de víctimas de un tiroteo escolar en febrero en Tumbler Ridge, Columbia Británica. Altman se disculpó con esa comunidad a finales de abril, y una investigación penal que Florida abrió el mismo mes sigue abierta.
Lee a continuación: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics