Demandan a OpenAI tras el tiroteo en la escuela de Tumbler Ridge
OpenAI y su consejero delegado, Sam Altman, se enfrentan a 30 nuevas demandas relacionadas con el tiroteo masivo en una escuela de la localidad canadiense de Tumbler Ridge. Las presentaron el miércoles ante un tribunal federal de California alumnos, profesores y el director del centro, que se encontraban en el edificio durante el ataque.
Los demandantes acusan a OpenAI y a Altman de haber prestado supuestamente al sospechoso «ayuda y apoyo sustanciales». Se trata del posible papel de ChatGPT en los hechos, no de que OpenAI organizara directamente el ataque. Por ahora son acusaciones recogidas en documentos judiciales, no hechos probados por un tribunal.
Según TechCrunch, las nuevas demandas repiten en gran medida las reclamaciones que presentaron en abril las familias de los fallecidos y de los heridos en Tumbler Ridge. En ambos casos se sostiene que OpenAI no tomó las medidas necesarias después de que un sistema automatizado de revisión señalara las conversaciones del presunto autor del tiroteo, Jesse Van Rootselaar, con ChatGPT.
Según las demandas, en esas conversaciones se trataron temas relacionados con las armas. Los demandantes consideran que, tras activarse el sistema de moderación, la empresa debería haber reaccionado de otra manera y haber tomado medidas adicionales. Qué actuaciones concretas podrían haber evitado el ataque será objeto del proceso judicial.
La situación plantea una de las preguntas más incómodas sobre la inteligencia artificial generativa: qué debe hacer una empresa cuando sus sistemas detectan conversaciones potencialmente peligrosas. Avisar, bloquear la cuenta, informar a las fuerzas del orden o aplicar otro procedimiento: los límites de la responsabilidad siguen siendo objeto de debate.
Las nuevas demandas no significan que la culpabilidad de OpenAI o de Sam Altman esté ya probada. El tribunal tendrá que determinar si el sistema detectó realmente señales de peligro, cómo reaccionó la empresa y si existió un vínculo jurídicamente relevante entre las acciones de OpenAI y el tiroteo. El caso también podría influir en las futuras normas que regulen cómo deben actuar los servicios de IA ante amenazas de violencia y conversaciones sobre armas.
PEREC.RU
OpenAI y su consejero delegado, Sam Altman, se enfrentan a 30 nuevas demandas tras el tiroteo masivo en una escuela de la localidad canadiense de Tumbler Ridge. Las presentaron ante un tribunal federal de California alumnos, profesores y el director del centro, que se encontraban en el edificio durante el ataque.
Los demandantes sostienen que OpenAI habría prestado al sospechoso «ayuda y apoyo sustanciales». Es una formulación de las demandas, no un hecho probado por un tribunal. No acusan a la empresa de organizar directamente el ataque; sus reclamaciones se refieren a cómo ChatGPT y los sistemas de seguridad de OpenAI gestionaron conversaciones potencialmente peligrosas.
En los documentos se menciona a Jesse Van Rootselaar, a quien identifican como presunto autor del tiroteo. Según los demandantes, habló con ChatGPT de temas relacionados con las armas. Afirman que el sistema automatizado de revisión de OpenAI señaló esas conversaciones, pero que la empresa no tomó medidas suficientes.
Los demandantes consideran que OpenAI debería haber reaccionado de otra manera: por ejemplo, bloquear la cuenta, informar a las fuerzas del orden o utilizar otro mecanismo para prevenir amenazas. Aún queda por demostrar qué obligaciones tenía la empresa y si podría haber evitado el ataque.
Las nuevas demandas repiten en gran medida las presentadas en abril por las familias de los fallecidos y de los heridos. Ahora el tribunal tendrá que averiguar si el sistema detectó realmente señales de peligro, cómo reaccionó OpenAI ante la alerta y si existió un vínculo jurídicamente relevante entre las acciones de la empresa y el tiroteo.
La historia tiene implicaciones mucho más amplias que este caso. Plantea la cuestión de la responsabilidad de los desarrolladores de inteligencia artificial generativa: ¿qué debe hacer una empresa cuando su sistema detecta conversaciones sobre armas o indicios de posible violencia? La respuesta podría influir en las futuras normas sobre moderación, bloqueo de cuentas y colaboración de los servicios de IA con las fuerzas del orden.
La principal limitación de la publicación es que el material original está incompleto: no ofrece detalles del ataque ni del contenido de las conversaciones. Por eso, lo correcto es hablar de acusaciones judiciales y de un proceso en curso, no de una culpabilidad probada de OpenAI o Altman ni de una relación causal demostrada entre ChatGPT y el crimen.
