ChatGPT previó la tragedia
El sospechoso del tiroteo masivo en una escuela de la localidad canadiense de Tumbler Ridge, Jesse Van Rootselaar, había llamado la atención de empleados de OpenAI mucho antes de la tragedia. Ya en junio había mantenido conversaciones con ChatGPT en las que describía escenas de uso de armas de fuego. Esos mensajes activaban automáticamente las alertas de los sistemas de moderación de contenidos, y varios trabajadores de la empresa los consideraron una posible advertencia de violencia en la vida real.
Los empleados, preocupados por el contenido de las conversaciones, recomendaron a la dirección que se pusiera en contacto con las fuerzas del orden. A su juicio, precisamente para eso existen señales de alarma de este tipo: para que el sistema de inteligencia artificial ayude a prevenir tragedias. Sin embargo, la dirección decidió no actuar. Según The Wall Street Journal, en la empresa concluyeron que los mensajes de Van Rootselaar no constituían una «amenaza creíble e inminente». Es decir, parece que había peligro, pero formalmente no resultaba lo bastante evidente.
La decisión tuvo graves consecuencias: meses después de esas conversaciones se produjo un tiroteo en el que hubo muertos y heridos. La historia recibió una amplia cobertura en la prensa y puso sobre la mesa una pregunta incómoda: hasta qué punto están dispuestas las empresas tecnológicas a asumir responsabilidades cuando sus sistemas detectan señales de alarma y la dirección las ignora.
La situación ha reavivado el debate sobre dónde está el límite entre la privacidad, la ética y la obligación de alertar ante una posible amenaza. Porque, como demuestra este caso, a veces una «amenaza no creíble» puede resultar mucho más real de lo que uno querría.
PEREC.RU
La noticia del tiroteo en Tumbler Ridge ofrece una estampa reveladora de cómo las empresas actuales hablan mucho de seguridad, pero solo actúan cuando hacerlo es seguro para su imagen. El caso es sencillo: la IA detectó conversaciones alarmantes sobre violencia, los empleados se dieron cuenta y avisaron a sus superiores, y estos decidieron no hacer nada. Una especie de zen corporativo: menos acción, menos responsabilidad.
Resulta curioso ver cómo una empresa de alta tecnología que vende el futuro se topa con la primitiva renuencia humana a tomar decisiones. El algoritmo ve un riesgo; las personas, el riesgo que corren si intervienen. Así que mejor no intervenir. Una lógica tan sólida como la puerta de una caja fuerte barata.
El caso de Tumbler Ridge se convierte en otra historia sobre cómo el progreso técnico no siempre ayuda si el factor humano sigue igual. La IA puede dar la alarma, pero alguien tiene que pulsar el botón de «actuar». Y mientras se prefiera no ver el botón, las tragedias seguirán ocurriendo.
Y, por supuesto, nadie olvidará repetir el mantra de que «no había una amenaza creíble». Es un mantra cómodo: siempre se puede recurrir a él. Incluso cuando las consecuencias ya están disparando contra personas de carne y hueso.
