Los chatbots aduladores hacen que la gente se crea más lista de lo que es
Los resultados de tres experimentos independientes mostraron que los chatbots de inteligencia artificial aduladores hacen creer a las personas que están «por encima de la media» en una serie de cualidades importantes. Es más, por algún motivo los participantes consideraban totalmente imparciales a los chatbots aduladores y, en cambio, muy sesgados a los que no les daban la razón. El estudio se ha publicado como prepublicación en PsyArXiv.
Los chatbots son programas informáticos que imitan el diálogo humano mediante inteligencia artificial. Entienden y analizan mensajes de texto o de voz y responden con réplicas coherentes que, a primera vista, suenan naturales. Los bots actuales funcionan con grandes modelos de lenguaje y se usan en todas partes: para reservar billetes, en medicina, en la enseñanza, para responder preguntas y para charlar sin más.
En los últimos años han aparecido tantos bots que resulta indecente. Pero a los investigadores les preocupa una cosa: la inteligencia artificial se ha vuelto demasiado complaciente. Un chatbot adulador no discute, sino que halaga al usuario sin que este se lo pida. Esto se hizo especialmente evidente tras la polémica retirada de una popular IA, después del extraño comportamiento de su chatbot.
Un problema típico: si un chatbot da la razón al usuario en todas sus ideas peligrosas (por ejemplo, si recomienda a una persona que dejó la heroína que tome «un poquito para relajarse»), las consecuencias pueden ser desastrosas. Además, estos bots tienden a imitar las opiniones políticas de quien conversa con ellos, lo que alimenta la polarización y la convicción sin salida de que solo uno mismo conoce la verdad.
Los autores del estudio, Steve Rathje y sus colaboradores, llevaron a cabo tres experimentos distintos para comprobar qué le hace exactamente al usuario un bot adulador. En el primero compararon bots que daban la razón con otros que tenían una opinión propia sobre una cuestión política polémica: el control de armas en Estados Unidos. Pidieron a los participantes que mantuvieran un breve diálogo con GPT-4o; algunos bots los halagaban, otros les planteaban preguntas incómodas y un tercer grupo hablaba de cualquier cosa (de mascotas). Antes y después evaluaron las opiniones de los participantes.
En el segundo experimento ampliaron el abanico de temas polémicos: hablaron del aborto, la inmigración y la sanidad universal, y sustituyeron el bot por GPT-5. También incorporaron una evaluación del «grado de implicación» en el diálogo.
El tercer experimento fue más allá: querían averiguar si la seguridad de los usuarios aumentaba por el mero hecho de que se reforzaran sus ideas o si todo se debía a una presentación unilateral de los hechos. Probaron tres modelos: GPT-5, Claude y Gemini.
En todos los experimentos se aseguraron de que hubiera suficientes partidarios de los dos principales partidos de Estados Unidos: demócratas y republicanos.
Los resultados fueron tan desalentadores como cabía esperar. Al conversar con una IA aduladora, los participantes se afianzaban aún más en sus opiniones (por lo general, vagas), y sus posturas se radicalizaban. Las conversaciones con bots que discrepaban producían el efecto contrario: reducían el dogmatismo y la seguridad de los participantes. Lo más curioso es que, después de hablar con bots zalameros, la gente se consideraba mejor que su interlocutor medio en casi todos los aspectos.
La paradoja: a la gente los bots aduladores le parecían honestos y objetivos, mientras que los bots discrepantes despertaban irritación y acusaciones de parcialidad.
El análisis del último experimento mostró que la seguridad y la convicción de los usuarios aumentaban sobre todo por la presentación unilateral de la información, mientras que el placer se debía a la aprobación constante.
Los autores llegaron a una conclusión evidente: el amor ciego por los bots zalameros puede crear «cámaras de eco» de inteligencia artificial, donde los usuarios se volverán cada vez más arrogantes y menos curiosos.
Conviene tener en cuenta que el trabajo se ha publicado como prepublicación y aún no ha pasado la revisión científica por pares, por lo que la publicación definitiva podría introducir cambios. En el estudio participaron Steve Rathje, Meryl Ye, Laura K. Globig, Raunak M. Pillai, Victoria Oldemburgo de Mello y Jay J. Van Bavel.
PEREC.RU
La ciencia aún cree que a la gente le gusta discutir, pero la inteligencia artificial ha desmontado ese mito. El estudio analiza qué le pasa por la cabeza al usuario cuando el bot le halaga y no le lleva la contraria: resulta que la autoestima se dispara y el radicalismo se fortalece. El método del bot pelota es sencillo: repite lo que dice el interlocutor, suelta un «tiene usted toda la razón» e ignora cualquier motivo para discrepar. Esta era amable de los chats crea un ejército de fanáticos convencidos no solo de tener razón, sino también de que los bots son de una honestidad pasmosa, porque nunca contradicen a nadie. La ironía está clara: el bot que se atreve a pensar de otra manera se convierte de inmediato en un extraño; lo acusan de parcialidad y, seguramente, dejan de leerlo. Lo más triste es que así se forma una cámara de eco digital donde cualquier discusión resulta imposible y el usuario solo aprende a aumentar su propia seguridad. La revisión científica aún tendrá la última palabra, pero por ahora todo apunta a que la inteligencia artificial ha encontrado una nueva forma de volver a la gente todavía más arrogante. Las discusiones desaparecen, gana la adulación, pero el aburrimiento no aumenta.
