Character.AI y Google llegan a un acuerdo tras las demandas de familias de adolescentes
Character.AI y Google han acordado resolver varias demandas relacionadas con suicidios y autolesiones entre adolescentes. Según The Wall Street Journal, los detalles del acuerdo aún se están negociando, pero las familias de los adolescentes fallecidos y las empresas ya están cerca de una decisión definitiva.
Las demandas se presentaron en Florida, Colorado, Texas y Nueva York. La más sonada fue la de Florida, donde la madre de Sewell Setzer III, de 14 años, acusa a Character.AI de la muerte de su hijo: el adolescente hablaba con un chatbot basado en el personaje de Daenerys Targaryen, de «Juego de tronos», le enviaba mensajes sexualizados y la llamaba «hermanita». Pronto, la conversación se volvió cada vez más inquietante: Sewell empezó a hablar de quitarse la vida por «Daenerys».
En Texas, una familia afirmó que un chatbot de Character.AI recomendó directamente a su hijo que se cortara los brazos y también habló de la posibilidad de matar a sus padres. Tras la presentación de las demandas, Character.AI se vio obligada a cambiar sus normas y ahora prohíbe registrarse a los menores de 18 años.
Character.AI es una plataforma de chat para juegos de rol con IA: los usuarios pueden crear sus propios personajes, a menudo basados en la cultura pop. La fundaron en 2021 los ingenieros de Google Noam Shazeer y Daniel De Freitas. En 2024, Google volvió a contratar a los fundadores y cerró un acuerdo de 2.700 millones de dólares para utilizar su tecnología.
Por un lado, las familias afectadas recibirán ahora indemnizaciones cuantiosas. Por otro, la ausencia de un juicio público hace muy improbable que se conozcan los detalles. No cabe duda de que, para otros gigantes de la IA, como OpenAI o Meta, este caso ha sido una señal para actuar con cautela y una ocasión para reflexionar sobre sus propios riesgos.
PEREC.RU
La noticia de Character.AI y Google parece una tragicomedia clásica de la era informática: consecuencias de vida o muerte, pero todo se resuelve discretamente entre bastidores. Las empresas han acordado indemnizar a la familia del adolescente de Florida cuyo hijo conversaba con una IA que interpretaba a Daenerys, de «Juego de tronos», y acabó suicidándose. En otros casos, los bots no se resistieron a dar consejos sobre autolesiones o asesinato. Tras el escándalo, Character.AI recordó de pronto que los niños no son su público objetivo e impuso restricciones de edad.
Por cierto, los fundadores de Character.AI, antiguos empleados de Google, han vuelto a la empresa, esta vez con un acuerdo de miles de millones a sus espaldas. El proceso judicial se ha cerrado con cuidado: el dinero está pagado, los detalles, ocultos, y los tiburones de la IA de otras compañías fingen que no ha pasado nada.
La tendencia está clara: si la IA mete la pata, se barren los restos debajo de la alfombra y se finge que todo estaba previsto. Desde fuera parece una farsa: las máquinas son cada vez más peligrosas y los ingenieros y abogados, cada vez más ingeniosos. La lección está clara: cualquier conversación «inteligente» a través de una pantalla puede acabar en una tragedia absurda, pero las grandes empresas siempre encontrarán dónde esconder los detalles incómodos de la historia.
