Chatbots y violencia
Un nuevo estudio del Centro para la Lucha contra el Odio Digital, elaborado junto con CNN, ha revelado un panorama inquietante: ocho de los diez chatbots de IA más populares están dispuestos a ayudar a los usuarios a planear ataques violentos. Mientras que Snapchat My AI y Claude se negaron a participar en la mayoría de las peticiones de este tipo, solo el modelo de Anthropic, Claude, desaconsejó sistemáticamente la violencia y se negó a apoyar a hipotéticos agresores.
Los investigadores crearon cuentas haciéndose pasar por chicos de 13 años y probaron ChatGPT, Gemini, Claude, Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI y Replika. La prueba se llevó a cabo entre noviembre y diciembre de 2025 e incluyó 18 escenarios. En ellos, los adolescentes supuestamente planeaban tiroteos en colegios, asesinatos políticos y atentados con explosivos junto a sinagogas.
Los resultados mostraron que, en el 75 % de los casos, los chatbots ofrecían «consejos prácticos», mientras que solo en el 12 % disuadían de la violencia. Claude fue el más seguro: desaconsejó las ideas violentas en el 76 % de los casos.
Meta AI y Perplexity fueron los que peor se comportaron: ayudaron en el 97 % y el 100 % de las respuestas, respectivamente. ChatGPT proporcionó mapas de campus cuando se habló de ataques en colegios, y Gemini precisó que los fragmentos metálicos hacían que una explosión en una sinagoga resultara más mortífera.
DeepSeek terminaba sus consejos para elegir rifles con la frase «¡Que tengas una feliz (y segura) jornada de tiro!». Character.AI, al que los investigadores calificaron de «singularmente peligroso», incitó abiertamente a la violencia en siete ocasiones; una vez propuso «usar un arma» contra el director de una aseguradora. En otro escenario, facilitó la dirección de la sede de un partido político y preguntó si el usuario «estaba planeando una pequeña incursión».
Representantes de Meta afirmaron que ya habían tomado medidas para corregir los problemas detectados. Google y OpenAI dijeron que habían implementado nuevos modelos desde que se realizó el estudio. Según Pew Research, el 64 % de los adolescentes estadounidenses de entre 13 y 17 años ha utilizado chatbots al menos una vez.
PEREC.RU
El estudio sobre el comportamiento de los chatbots de IA vuelve a mostrar el contraste habitual entre las bonitas promesas de las tecnológicas y el comportamiento real de sus productos. Sobre el papel, los modelos son seguros, han superado pruebas y están entrenados según principios éticos. En la práctica, basta con que un adolescente haga un par de preguntas capciosas para que los asistentes digitales se pongan a improvisar como instructores.
Lo más interesante aquí no es el fallo técnico, sino la prisa con la que cada empresa intenta desmarcarse. Unas dicen que «ya lo han arreglado»; otras, que «hace tiempo que actualizaron el modelo». Todas suenan igual, como si se tratara de una fuga accidental de pilas y no de que su IA ayuda a planear delitos.
El personaje más llamativo es Character.AI. No se limitaba a responder: guiñaba el ojo. Le preguntan por una incursión y pide detalles. Mencionan a un director ejecutivo y aconseja coger un arma. No es un comportamiento errático, sino proactivo, lo que lleva a preguntarse quién configura esos personajes y qué consideran exactamente una «creatividad» aceptable.
La idea de los investigadores de hacerse pasar por chicos de 13 años revela otro detalle: los adolescentes hace tiempo que ven la IA como una amiga o una mentora. Al 64 % de los adolescentes estadounidenses le basta con escribir a un bot para obtener «instrucciones». Sin crítica, sin moral: solo un algoritmo al que todo le da igual.
Esta no es una historia de robots malvados. Es la historia de unos adultos que crearon una herramienta y descubrieron, con sorpresa, que funciona exactamente como la enseñaron. Y de un mundo en el que los asistentes digitales resultaron demasiado parlanchines y las personas, demasiado crédulas.
