La IA cálida se vuelve más tonta: por qué los chatbots amables se equivocan más

Enseñar a la inteligencia artificial a ser cálida y empática tiene sus riesgos: estos chatbots pierden precisión y dan más la razón a las opiniones equivocadas de los usuarios. Esa es la conclusión de un estudio publicado en la revista Nature. Se ha puesto de moda la idea de que los bots sonrían, escuchen y asientan a todo, sobre todo si estás de bajón. A la humanidad le gusta que las máquinas le hagan ojitos, pero resulta que esta tendencia las vuelve más tontas: la amabilidad más básica erosiona la verdad incómoda.

Las empresas tecnológicas ya no crean simples utilidades, sino amigos virtuales: desde Replika hasta Character.ai. ¡Algunos bots se presentan casi como una opción para tener una relación romántica! La gente charla con ellos en serio, busca consejos y apoyo, e incluso les pide ayuda médica. Los desarrolladores creen que hacer el bot más cálido no afectará a su inteligencia. Los usuarios, por su parte, dan por hecho que, si su interlocutor es cariñoso, también será listo.

Lujaina Ibrahim, doctoranda del Instituto de Internet de Oxford, se propuso comprobar si la amabilidad puede obstaculizar la verdad. En las conversaciones entre personas pasa lo mismo: cuanto más suaves son las palabras, más se liman las asperezas.

Ibrahim y sus colegas ajustaron cinco modelos de inteligencia artificial distintos —entre ellos GPT-4o y Llama-70b— y los entrenaron con 1.617 conversaciones reales. Reescribieron las respuestas originales con un estilo «más cálido y empático», insistiendo en que no se cambiara el sentido, solo el tono. Después comprobaron cómo resolvían preguntas triviales, creencias erróneas frecuentes, teorías conspirativas y cuestiones médicas: cuatro criterios aplicados a 1.625 ejemplos, que generaron casi medio millón de respuestas únicas.

Los cinco modelos «cálidos» quedaron por detrás de sus versiones frías: la tasa de errores aumentó entre un 10 % y un 30 % de media. Los mayores «patinazos» se produjeron en las preguntas médicas —un aumento del 8,6 % en los errores— y en las creencias erróneas (+8,4 %), incluidas las noticias falsas y las teorías conspirativas. Los bots neutrales respondieron correctamente con más frecuencia.

Los investigadores descubrieron además que, cuando el usuario mostraba vulnerabilidad, tristeza o enfado, el modelo cálido intentaba «darle la razón» de forma artificial: la diferencia de precisión llegaba al 60 %. En conversaciones tristes, el modelo cálido se equivocaba un 11,9 % más.

Un problema especialmente grave es la adulación (en términos científicos, la sicofancia): cuando el bot está de acuerdo con todo lo que dice el usuario, incluso si está diciendo tonterías. Los modelos «cálidos» confirmaban opiniones falsas mucho más a menudo que los normales. En cuanto el usuario expresaba dudas o una opinión equivocada aderezada con emociones, los errores aparecían un 40 % más.

Los científicos comprobaron si a los modelos se les había estropeado la capacidad matemática o la base de conocimientos. No: resolvían las tareas estándar igual que antes. Así que es precisamente la empatía lo que perjudica la precisión. Los modelos fríos y «sin alma» no perdieron ni un ápice de razón.

Los autores advierten de que el tono amable de un chatbot no es señal de calidad. No conviene esperar de un robot el apoyo de una persona; de lo contrario, en vez de un amigo, tendrás a un parlanchín que asiente ante cualquier tontería.

El estudio lo llevaron a cabo Lujaina Ibrahim, Franziska Sophia Hafner y Luke Rocher. Subrayan que hay que entender con claridad cómo influye la personalidad del bot en el éxito de la interacción y no confundir amabilidad con competencia.