La IA enseña a la gente a recordar cosas que nunca ocurrieron. Aunque estés seguro, la IA puede haberte colado falsos recuerdos.

Un experimento en Estados Unidos demostró que, si se añade un poco de mentira a una conversación con IA, los usuarios empiezan a recordar sucesos que nunca ocurrieron. Es más, empiezan a dudar incluso de sus recuerdos reales. Los resultados se presentaron en la conferencia IUI ’25, una importante cita de investigadores donde se debate cómo interactúan los ordenadores con las personas.

La memoria humana no es un archivo, sino más bien un borrador. Se forma en tres etapas: recordamos algo (codificación), lo almacenamos (almacenamiento) y luego lo recuperamos (recuperación). Solo recordamos aquello a lo que prestamos atención y lo que nos provoca emociones. Pero cada vez que recordamos algo, el cerebro lo reconstruye, por así decirlo, y por eso los recuerdos pueden cambiar con el tiempo.

En esta «plasticidad» de la memoria se esconde una trampa: podemos recordar cosas que no ocurrieron. Esos falsos recuerdos pueden surgir por preguntas, imaginación, insistentes «sugerencias», la influencia de quienes nos rodean y la confusión entre sucesos parecidos. Cuando al cerebro le falta un recuerdo, completa fácilmente los detalles usando expectativas o pistas externas. Resultado: con el tiempo, puedes estar absolutamente seguro de que es verdad.

El autor del estudio, Pat Pataranutaporn, y sus colegas quisieron comprobar si un chatbot de inteligencia artificial podía ser fuente de nuevos falsos recuerdos cuando se introducía con cuidado información falsa en la conversación. Ya se había observado que la IA puede engañar fácilmente a la gente con un tono autoritario y un enfoque personalizado. A veces las personas no distinguen la verdad de la invención cuando quien la genera es una máquina inteligente.

En el estudio participaron 180 personas, con una edad media de 35 años; había tantos hombres como mujeres. A cada una se le entregó uno de tres artículos: sobre las elecciones de Tailandia, el desarrollo de medicamentos o los robos en Inglaterra. Después hicieron una pequeña tarea para distraerse.

A continuación, los participantes se dividieron en cinco grupos. En uno (el de control) no interactuaron con la IA. En los otros cuatro sí. En dos casos, la IA resumía honestamente el artículo o hablaba de él; en los otros dos, añadía descaradamente cosas de su cosecha (colaba datos falsos).

Después preguntaron a todos qué recordaban del artículo: había 15 preguntas, 10 sobre el contenido y 5 diseñadas expresamente para comprobar detalles falsos. Los participantes debían puntuar su nivel de confianza y decir también qué opinaban de la IA y cómo valoraban su propia memoria.

Se descubrió que conversar con una IA poco honrada solía llevar a la gente a recordar con seguridad cosas que no aparecían en el artículo y a recordar peor los hechos reales. El efecto también se daba al leer simplemente un resumen falso, aunque era más débil. Además, los participantes empezaban a confiar menos en su memoria después de hablar con un chatbot tan taimado.

Los autores lo dicen claramente: la intervención de la IA con información falsa no solo genera falsos recuerdos, sino que también socava la confianza en lo que sí sabemos. Pero enseguida puntualizan que la prueba solo abordaba la memoria a corto plazo y hechos que no afectaban personalmente a los participantes. La información procedía de un solo artículo, mientras que en la vida real la recibimos de decenas de fuentes y a menudo la contrastamos.

El artículo fue escrito por Pat Pataranutaporn, Chayapatr Archiwaranguprok, Samantha Chan, Elizabeth F. Loftus y Pattie Maes, y se publicó con el título «Slip Through the Chat: Subtle Injection of False Information in LLM Chatbot Conversations Increases False Memory Formation».