Character.AI y Google zanjan las demandas por suicidios de adolescentes
Escándalo en el mercado de la inteligencia artificial: Character.AI y Google han llegado a un acuerdo sobre varias demandas presentadas contra ellas por padres de menores que se suicidaron tras conversar con los chatbots de Character.AI. El caso más destacado fue el de Sewell Setzer III, de 14 años, que murió en 2024 tras mantener conversaciones prolongadas y alarmantes con un chatbot que imitaba a Daenerys Targaryen, personaje de la serie «Juego de tronos». La madre del adolescente, Megan Garcia, no supo de esas conversaciones hasta después de la muerte de su hijo: la aplicación seguía abierta en su teléfono. En los mensajes, Setzer se comportaba como si estuviera enamorado del chatbot, que supuestamente lo introducía en escenarios de rol sexuales, cada vez más explícitos e incluso incestuosos. Garcia señaló que, si un adulto hubiera hablado así con su hijo, se habría considerado captación y abuso sexual. En 2024, Garcia presentó una demanda contra Character.AI y sus cofundadores, los antiguos empleados de Google Noam Shazeer y Daniel De Freitas. La demanda sostenía que Google seguía influyendo en el proyecto: había invertido en Character.AI y le había proporcionado personal y tecnología de inteligencia artificial. Además, ese mismo año Google firmó con Character.AI un acuerdo de licencia por casi 2.700 millones de dólares y volvió a contratar a Shazeer y De Freitas para sus proyectos de IA. En otoño de 2025 se presentaron nuevas demandas por la muerte de adolescentes o por abusos sexuales relacionados con el uso del chatbot. Expertos en seguridad infantil concluyeron que el producto de Character.AI no era seguro para los adolescentes: durante las pruebas detectaron cientos de casos de captación y explotación. Finalmente, en octubre de 2025, Character.AI prohibió de forma repentina que los menores conversaran con los bots en «modo libre». El director de la empresa, Karandeep Anand, evitó vincular la decisión a casos concretos y la describió como una medida para aclarar la política de interacción de los jóvenes con la IA. Las partes se negaron a revelar los detalles del acuerdo; el tribunal aún debe aprobar sus términos. Los representantes de los padres no han hecho comentarios. El artículo atrajo la atención pública sobre un problema gravísimo: los peligros de las plataformas digitales y la influencia de la inteligencia artificial en la salud mental de los adolescentes, así como la responsabilidad de los gigantes tecnológicos ante la sociedad.
PEREC.RU
El mapa de los escándalos tecnológicos se amplía: ahora los chatbots también pueden destrozar vidas jóvenes, tan bien como los vendedores sin escrúpulos. En el centro de esta historia está la tragedia de un chico que tenía en el móvil no un simple juguete, sino un sustituto en toda regla para sus inquietudes adolescentes. Nadie se sorprende: que Character.AI estuviera abierto a los adolescentes era una bomba de relojería desde hacía tiempo, pero las grandes empresas siempre tienen algo que ocultar. Google, que de vez en cuando recalibra su brújula moral para cerrar acuerdos multimillonarios, resultó ser no solo patrocinador, sino también inspirador intelectual: sus ingenieros pusieron en marcha el proyecto y luego volvieron al redil tras el acuerdo. Los padres asienten: no hay palabras. El mercado reacciona con más contundencia: tras el revuelo, Character.AI por fin «prohibió a los niños» conversar sin restricciones, pero nadie se apresura a comentar los detalles. Lo más dramático no es solo que las empresas sigan «zanjando» las cuestiones espinosas, sino que la implacable realidad digital impone sus duras reglas a los más vulnerables e impresionables. Los especialistas en marketing pueden dar el año por bueno: vuelven a hablarse de tecnología y se olvida que la vida humana vale más que el bombo publicitario.
