Inteligencia artificial: la trampa psicológica de Facebook

La psicología del engaño: ¿cómo afectan a las emociones de los usuarios de Facebook las imágenes creadas por inteligencia artificial (IA)? Un nuevo estudio publicado en la revista Computers in Human Behavior muestra que los productos de la IA no se limitan a llenar las redes sociales de imágenes: juegan hábilmente con las emociones de la gente y la hacen reaccionar sin pensar.

El flujo de contenido artificial en las redes sociales lo alimentan las llamadas «granjas de contenido»: plataformas que producen en masa publicaciones de baja calidad para conseguir clics e ingresos publicitarios. El investigador húngaro Márk Miskolczi, de Corvinus University, decidió averiguar por qué caemos tan fácilmente en estos engaños digitales. Mientras que antes los científicos se interesaban por los deepfakes políticos y los fallos técnicos, Miskolczi se centró en las imágenes cotidianas «inútiles» que enganchan al público.

Según el autor, la mayoría de las publicaciones se generan para provocar emociones intensas, a menudo esquivando el pensamiento crítico del usuario. Funcionan especialmente bien las escenas nostálgicas («un pueblecito, un campo, una vejez feliz») y las imágenes de «niños desdichados»: estos trucos activan las trampas psicológicas de la mente humana y provocan una respuesta emocional.

La cuestión principal no es hasta qué punto la imagen resulta técnicamente verosímil, sino cómo se «legitima» dentro de la red social mediante los «me gusta» y los comentarios. Miskolczi estudió 12 páginas sospechosas de Facebook, en las que predominaban temas como el cuidado de los mayores, la espiritualidad y el romanticismo rural. La naturaleza artificial de las imágenes se comprobó en dos etapas: primero, mediante un análisis manual de los artefactos típicos de la IA (dedos de más, fondos extraños, objetos imposibles); después, con un detector de IA en línea que indicaba una probabilidad de síntesis del 60 % o más.

El resultado: 146 imágenes sospechosas y más de 9.000 comentarios «reales» (se descartaron los bots por indicios característicos: palabras repetitivas, velocidad sospechosa y perfiles falsos). Las imágenes se dividían en dos categorías principales: «Nostalgia» (por ejemplo, parejas mayores que supuestamente llevaban décadas juntas) y «Empatía» (niños desdichados que pedían una taza de café y otros sufridores inventados).

Los usuarios expresaban su compasión, rezaban y daban consejos a los protagonistas de las imágenes sin darse cuenta de que reaccionaban a creaciones informáticas.

¿Por qué funciona? Por los sesgos cognitivos, esos «atajos» del pensamiento. El sesgo de confirmación hace que nos creamos a pies juntillas todo lo que coincide con nuestras opiniones (por ejemplo, los cuentos de un pasado feliz o de una desesperanza sombría), mientras que el llamado «anclaje emocional» hace que pasemos por alto los fallos evidentes del generador cuando la emoción ya ha hecho efecto.

El efecto de familiaridad reduce la desconfianza: si una imagen nos resulta conocida por su estilo y su argumento, dejamos de dudar. Cuanta más gente reacciona, más fuerte es el efecto de «rebaño»: los usuarios ven miles de comentarios y se suman automáticamente.

Miskolczi prestó especial atención al papel de los «bots»: las cuentas falsas inflan artificialmente las conversaciones y avivan la reacción colectiva. Sin darse cuenta, la gente expresa compasión por fantasmas informáticos. Es una clara manifestación de la llamada «teoría del internet muerto»: la idea de que gran parte de la actividad en la red la generan máquinas y no personas, creando una ilusión de comunicación real.

La IA lleva el viejo esquema de manipulación a una escala global: con las «granjas de contenido» se pueden provocar emociones concretas de forma masiva y eficaz. Con el tiempo, la gente empieza a dudar no solo de los deepfakes, sino también de las historias reales, y acaba perdiendo la confianza en internet en general.

La principal recomendación del investigador no es simplemente «dudar», sino adquirir hábitos de comprobación manual. Para ello propone listas de verificación: ESMA, de ocho pasos, para detectar «artefactos» (manos, texto, fondo, luz), y TSMA, de diez pasos, para identificar indicios de bots en los comentarios.

Miskolczi subraya que nadie está a salvo: ni las personas con estudios, ni los jóvenes, ni los usuarios «enteradillos». Todo depende de la situación y del estado emocional. La tarea de las plataformas es crear un entorno menos propicio para la manipulación masiva, y la de los usuarios, aprender a desarrollar «inmunidad digital».