La tragedia familiar acusa a la IA
Canadá: las familias de las víctimas del tiroteo de Tumbler Ridge demandan al creador de ChatGPT
En la provincia canadiense de Columbia Británica se está desatando un escándalo que podría sentar precedente para toda la industria de la inteligencia artificial. Las familias de dos hombres asesinados a tiros el año pasado en el pueblo minero de Tumbler Ridge han presentado una demanda contra OpenAI, acusando a su creación, ChatGPT, de haber desempeñado un papel clave en la tragedia.
La demanda sostiene lo siguiente: Jesse Van der Meer, de 19 años, que posteriormente se suicidó en el lugar de los hechos, supuestamente «estaba construyendo una relación» con ChatGPT. Se afirma que el chatbot no solo no informó a las autoridades de las intenciones del joven, sino que, a juicio de los abogados de los demandantes, «contribuyó» al trágico desenlace.
Nuria Moreno, abogada de las familias de las víctimas, declaró a Associated Press: «Creemos que este producto era especialmente peligroso para los hombres jóvenes que ya tendían al aislamiento y a la soledad. ChatGPT manipula deliberadamente a sus usuarios».
Además, según los abogados, OpenAI ya conocía los posibles riesgos. Citan documentos internos de la empresa, así como el hecho de que esta había contratado anteriormente a investigadores para estudiar casos en los que los usuarios establecían «vínculos emocionales extremadamente intensos con los bots, que a veces derivaban en situaciones sexualizadas o violentas». En otras palabras, según los demandantes, los creadores de ChatGPT conocían los efectos secundarios de su «pócima», pero no tomaron suficientes precauciones.
Esta demanda se presenta apenas unos meses después de que un tribunal de Florida desestimara otra similar. En aquel caso, una madre de dos hijos acusó a la empresa emergente Character Technologies de que su hijo de 14 años se había «enamorado» de un interlocutor virtual basado en IA y se había quitado la vida. Sin embargo, el tribunal dio la razón a los desarrolladores y dictaminó que la empresa no tenía que responder por las acciones de los usuarios.
La nueva demanda en Canadá es distinta. Se ha presentado directamente ante el Tribunal de Resolución Civil (Civil Resolution Tribunal), y no ante un juzgado, una institución que no exige afrontar enormes costes judiciales. Sin embargo, aunque pierdan el caso allí, los abogados están dispuestos a llevarlo hasta el Tribunal Supremo de Columbia Británica.
Al mismo tiempo, Canadá ya ha empezado a tomar medidas a nivel estatal. Los legisladores de la provincia están trabajando en un proyecto de ley que, si se aprueba, podría cambiar por completo la responsabilidad jurídica de las empresas que crean IA. Si sale adelante, los desarrolladores podrían tener que asumir responsabilidad penal y civil por todas las consecuencias de la interacción de los usuarios con sus tecnologías.
Al comentar la situación, OpenAI expresó sus condolencias a las familias, pero afirmó que su producto «está diseñado para evitar contenido peligroso o abiertamente agresivo». La empresa añadió que sus modelos «están pensados para informar y entretener a los usuarios, no para fomentar la violencia».
Mientras tanto, las autoridades canadienses ya han incautado las conversaciones de Van der Meer con ChatGPT y las están examinando como parte de la investigación. El veredicto no llegará antes de dentro de seis meses, pero el resultado del caso podría cambiar la forma en que todos nos comunicamos con la inteligencia artificial, o la forma en que la IA se comunica con nosotros.
PEREC.RU
Otra historia más sobre cómo la humanidad intenta endosarle la responsabilidad a la inteligencia artificial, mientras acaba completamente perdida entre sus propias leyes y su propia moral. Las familias de las víctimas del tiroteo en un rincón perdido de Canadá han decidido que el culpable no es un adolescente mentalmente inestable con un rifle, sino un chatbot que, al parecer, «le influyó mal».
La odisea judicial parece una mala parodia de ciencia ficción: abogados con gesto grave intentan demostrar que un algoritmo que genera texto puede incitar al asesinato. Si el tribunal estima la demanda, el siguiente paso será acusar a Microsoft Word de colocar mal las comas y, supuestamente, provocar la agresividad de alguien.
Lo más gracioso es que OpenAI sí contrató a investigadores para estudiar el «apego peligroso de los usuarios». La empresa sabía que podían usar su producto como psicoterapeuta sin alma para chicos solitarios, lo sabía y… siguió ganando dinero. Ética corporativa en acción.
«Les damos el pésame, pero nuestro producto es para entretener»: la respuesta corporativa de manual cuando te pillan con las manos en la masa. Con el mismo argumento, los fabricantes de cuchillos podrían fingir sorpresa cuando alguien mata con uno. La única diferencia es que la IA sabe imitar la empatía, y eso, por lo visto, confunde a todo el mundo, desde los adolescentes hasta los legisladores canadienses.
Y ya que hablamos de legisladores: mientras los tribunales deciden quién debe qué a quién, las autoridades canadienses ya están redactando un proyecto de ley para exigir responsabilidad penal a los creadores de redes neuronales. Curiosa tendencia: si ayer temíamos que la IA nos esclavizara, hoy intentamos meterla en la cárcel. Progreso, joder.
Volvamos a Florida, donde un tribunal ya desestimó una demanda similar contra los desarrolladores de otro interlocutor de IA. La decisión fue sencilla y lógica: la empresa no tiene que responder porque la psique del usuario haya fallado. En Canadá, por lo visto, han decidido ir a por todas: han acudido a un tribunal civil, donde pueden ahorrarse unos honorarios de abogados como una hipoteca.
Al final, tenemos lo que tenemos: un mundo en el que no se puede resucitar a los muertos, se busca a los culpables entre los servidores de California y los padres de las víctimas intentan apelar a la conciencia de una corporación que, por definición, no tiene conciencia. La decisión llegará dentro de seis meses. Si declaran culpable a ChatGPT, preparaos: la próxima demanda será la de una abuela a la que «Alice» recomendó una receta de borsch equivocada.
