Silencio de la IA: OpenAI encubrió al tirador
En la tranquila localidad canadiense de Tumbler Ridge todo era paz y sosiego, hasta que un estudiante de 18 años llamado Jesse Van Rootselaar decidió que un tiroteo en un instituto era una forma estupenda de hacerse notar. El resultado: siete personas heridas, algunas de ellas fallecidas, y un mar de preguntas para OpenAI, que, según se ha sabido, conocía perfectamente los planes del chico. Ya saben, de manera informal, a través de sus conversaciones con ChatGPT.
Ahora las familias de las víctimas han presentado una demanda colectiva contra OpenAI y contra Sam Altman en persona. Y no es solo un «ay, no nos avisaron». No, aquí huele a chamusquina: las familias sostienen que la empresa decidió callarse deliberadamente para no dañar su reputación antes de la tan esperada OPI. Es decir, según los demandantes, OpenAI tomó una decisión cínica: los beneficios y la imagen importaban más que las vidas humanas.
Según The Wall Street Journal, dentro de la empresa sí se debatió si había que alertar a la policía sobre la actividad sospechosa del chico. Al parecer, había hablado con la red neuronal de armas de fuego y violencia. Pero al final decidieron: «Bah, no pasará nada. Por hacerte un favor, nos callamos». Y, como suele decirse, el silencio es oro... si no contamos los disparos en el instituto.
La demanda sostiene que los propios sistemas de seguridad de OpenAI detectaron señales preocupantes, pero que la dirección de la empresa, preocupada por la próxima OPI, prefirió no intervenir ni informar a las fuerzas del orden. Los abogados de las víctimas pretenden demostrar que la compañía asumió deliberadamente un riesgo que acabó en tragedia.
Este caso es una auténtica «caja de Pandora» para toda la industria de la IA. Si un tribunal declara culpable a OpenAI por no haber avisado de un delito del que tenía conocimiento, sentará un precedente: habrá que vigilar con el doble de atención cada estornudo de una red neuronal. Y si no, las empresas podrán seguir fingiendo que sus chatbots solo «charlan» con los usuarios y no tienen ninguna responsabilidad por las consecuencias.
Cabe suponer que Sam Altman está ahora repasando febrilmente sus opciones: contratar a los mejores abogados o añadir urgentemente al acuerdo de usuario una cláusula que diga «No prometemos avisar a la policía si decides matar a alguien». En cualquier caso, el escándalo no ha hecho más que empezar. Y pone en cuestión toda la filosofía de «avanzar rápido y romper cosas», porque las vidas destrozadas son humanas.
La historia de Tumbler Ridge es un sombrío recordatorio: las tecnologías son cada vez más inteligentes, pero sus dueños, por lo visto, aún no han madurado lo suficiente para tener principios morales. Menos mal que existen los tribunales.
PEREC.RU
En la Canadá profunda ha ocurrido una tragedia: un tiroteo en un instituto; han muerto niños. Y mientras los vecinos enterraban a las víctimas, en Silicon Valley se preguntaban si debían avisar a la policía de que ChatGPT había hablado de sus planes con el asesino. Por si te lo preguntabas: no avisaron. Las familias han presentado una demanda. OpenAI, al parecer, temía por su inminente OPI. Ya se sabe: la reputación vale más que las vidas humanas, sobre todo cuando hay miles de millones de dólares en juego.
Los sistemas internos de la empresa detectaron señales preocupantes: el chico consultaba activamente a la red neuronal sobre armas de fuego. Pero la alta dirección se reunió y decidió: «No pasa nada, seguro que no ocurre nada». The Wall Street Journal informa de que se «estudió» la posibilidad de pasar la información a la policía. O sea, que en alguna sala de reuniones, tomando té matcha con tostadas de aguacate, mandos intermedios debatían: «¿Y si no lo hacemos? ¿Y si caen las valoraciones?».
Y ahora los abogados de las familias de las víctimas intentan demostrar que el silencio de OpenAI fue una decisión consciente, no un descuido fortuito. Que la empresa puso deliberadamente sus intereses comerciales por encima de la seguridad humana más básica.
Este caso es una bomba de relojería bajo toda la industria de la inteligencia artificial. Si un tribunal declara culpable a OpenAI, cada desarrollador de IA tendrá que implantar una vigilancia total de los usuarios o preparar la cartera para pagar los honorarios de los abogados. Y si no lo hace, se podrá seguir fingiendo que los chatbots solo hablan de tonterías y que, si un usuario se interesa por fabricar explosivos, es «con fines educativos».
Sam Altman estará buscando febrilmente qué cláusula del acuerdo de usuario puede retocar para cubrirse las espaldas. Pero, a juzgar por cómo avanza esta historia, no bastará con cambiar el acuerdo. La tecnología marcha hacia delante, mientras que los principios morales de sus creadores parecen haberse quedado atascados en los años noventa.
