La provincia canadiense de British Columbia ha demandado a OpenAI por su supuesto incumplimiento a la hora de alertar a las autoridades sobre actividad preocupante en ChatGPT antes del mortal tiroteo escolar de Tumbler Ridge, ocurrido en febrero.
Puntos clave:
- British Columbia presentó una demanda en California acusando a OpenAI de no informar de interacciones preocupantes en ChatGPT antes del ataque en Tumbler Ridge.
- El tiroteo dejó ocho muertos, entre ellos seis menores, mientras que las familias de las víctimas han interpuesto demandas independientes contra la compañía.
- La provincia afirma que cualquier indemnización económica se destinará a la reconstrucción del instituto afectado.
La demanda contra OpenAI
La BBC informó de que British Columbia presentó la denuncia el lunes ante un tribunal federal de California, alegando que OpenAI no avisó a las fuerzas de seguridad pese a que su equipo de seguridad había señalado la cuenta de Jesse Van Rootselaar meses antes del ataque del 10 de febrero.
El joven de 18 años mató a ocho personas, incluidos seis niños. Posteriormente, diversos medios revelaron que el equipo de seguridad de OpenAI había revisado la cuenta por referencias a violencia armada meses antes del tiroteo, pero las autoridades locales no fueron informadas.
La fiscal general Niki Sharma afirmó que la demanda plantea interrogantes sobre “las responsabilidades de las empresas tecnológicas cuando tienen conocimiento de amenazas creíbles de violencia grave”. Añadió que OpenAI no ha adoptado medidas significativas para responder a las preocupaciones expresadas por los supervivientes, las familias y la comunidad de Tumbler Ridge.
Sharma señaló además que la provincia pidió a OpenAI que entregara los registros de los chats relevantes, pero la compañía se negó. Recalcó que cualquier compensación económica que obtenga British Columbia se dedicará a reconstruir el instituto.
También te puede interesar: La apuesta de 11.000 millones de dólares de SoftBank en bonos basura agrava su riesgo de deuda con OpenAI
La respuesta de Sam Altman
El consejero delegado de OpenAI, Sam Altman, pidió disculpas públicamente en abril por la decisión de la empresa de no contactar con la policía antes del ataque. “Lamento profundamente que no avisáramos a las fuerzas del orden”, escribió en una carta abierta.
La demanda vuelve a poner el foco en cómo responden las empresas de inteligencia artificial cuando sus sistemas internos de seguridad detectan contenido violento que podría apuntar a una amenaza en el mundo real. British Columbia busca aclarar qué sabía OpenAI, cómo evaluó el riesgo y por qué no se informó a las autoridades.
El conflicto se gestó meses antes de que la provincia acudiera a los tribunales, después de que diversas informaciones revelaran que OpenAI había marcado la cuenta de Van Rootselaar sin llegar a comunicarlo a la policía. Más tarde, las familias presentaron demandas por separado, mientras British Columbia siguió presionando a OpenAI para obtener más información, mayor transparencia y medidas de seguridad más estrictas.
Próximo tema: Grok 4.7 por fin llega, pero Claude sigue liderando la mayoría de los benchmarks
