La gente no detecta la IA en los mensajes

Un nuevo estudio publicado en la revista Computers in Human Behavior muestra un panorama curioso: la opinión que la gente tiene de una persona empeora drásticamente cuando descubre que su mensaje lo ha escrito una inteligencia artificial. Sin embargo, en la vida cotidiana la mayoría ni siquiera sospecha que detrás de un texto «sincero» puede estar trabajando una red neuronal. Si no sabe quién lo ha escrito —una persona o un programa—, el destinatario da por hecho que es una persona y se forma una impresión más cálida.
La IA generativa es un conjunto de programas capaces de crear textos realistas a partir de instrucciones breves. Hoy se utiliza para escribir cartas, publicaciones y mensajes. Los investigadores Jiaqi Zhu y Andras Molnar quisieron comprobar cómo cambia esto nuestra percepción de los demás.
Por lo general, escribir un texto meditado requiere tiempo y esfuerzo, lo que se interpreta como una señal de sinceridad. Por eso, los investigadores intentaron averiguar si la disponibilidad de la IA hace que la gente desconfíe más. Ya se sabía que, si se le dice directamente a alguien que un texto lo ha escrito una IA, reacciona negativamente. Pero en la vida real casi nadie lo confiesa.
En el primer experimento participaron 647 adultos de Estados Unidos. Les mostraron distintos tipos de mensajes, desde una carta de agradecimiento de un amigo hasta la carta de presentación de un analista. Después les dieron información diferente: que el mensaje lo había escrito una persona, que lo había generado una IA, que no estaba claro quién lo había escrito o no les dieron ninguna aclaración.
El resultado: cuando los participantes sabían que había intervenido una IA, valoraban mucho peor al remitente. Pero, si no se les decía nada sobre el origen del texto, la impresión que tenían de la «persona» seguía siendo positiva. Es más, ni siquiera una insinuación de que podía haber incertidumbre los hacía desconfiar.
Molnar señala que, fuera del ámbito académico, la mayoría ni siquiera se plantea que la IA pueda utilizarse en mensajes corrientes. Los autores del estudio subrayan que el problema no está en la calidad del texto, sino en cómo juzgamos a quien lo envía.
Siete meses después, los investigadores repitieron el experimento con un nuevo grupo de 654 personas y nuevas situaciones: una publicación sobre unas prácticas, un mensaje de disculpa y un perfil de una página de citas. Se pidió a los participantes que valoraran cuánto esfuerzo había dedicado el autor y hasta qué punto el texto reflejaba sus sentimientos. Cuando se les decía que lo había redactado un ordenador, las puntuaciones bajaban en todos los aspectos.
Pero, si no se les decía nada sobre el origen del texto, la gente suponía que lo había escrito una persona y que había dedicado el mismo esfuerzo. Ni siquiera quienes utilizaban mucho la IA desconfiaban más de los mensajes ajenos.
Los autores subrayan que esto crea una situación desigual. Quienes no quieren o no saben utilizar la IA salen perdiendo, mientras que quienes la usan activamente se expresan de forma más «pulida» y convincente, al menos mientras no admitan que la han utilizado. Entre las limitaciones del estudio figuran el uso de situaciones hipotéticas y la falta de datos sobre conversaciones reales. Los investigadores planean estudiar qué situaciones despiertan más desconfianza y cómo se manifiesta en distintos países.
El trabajo se titula «Blissful (A)Ignorance» y es obra de Jiaqi Zhu y Andras Molnar.