La IA reescribe la historia sin hacer ruido

Un nuevo estudio publicado en la revista PNAS Nexus ha demostrado que, cuando alguien conoce la historia a través de la inteligencia artificial, junto con los hechos pueden colársele sin que se dé cuenta opiniones políticas ajenas. Y la IA no tiene por qué mentir: basta con que presente datos totalmente exactos desde su propio ángulo, apenas perceptible. Como se ha descubierto, los chatbots más populares tienen esos sesgos.

La inteligencia artificial generativa es un conjunto de programas capaces de crear textos, imágenes o audio nuevos a partir del aprendizaje con enormes cantidades de datos. Los chatbots como ChatGPT son sus representantes más extendidos. Cada vez más personas los usan como buscadores normales: preguntas, recibes una breve explicación de un acontecimiento histórico y sigues con tu vida, convencido de que has obtenido un dato limpio y neutral.

A los científicos les interesaba saber si esa «visita digital al pasado» influye en la opinión de las personas sobre cuestiones actuales. Hasta ahora se había estudiado sobre todo cómo la IA inclina a la gente hacia una postura cuando se le ordena expresamente persuadir o desinformar. El nuevo trabajo se centra en una forma de influencia mucho más discreta: cuando el algoritmo simplemente hace lo que considera su trabajo habitual.

El autor del estudio, el sociólogo Daniel Karell, de la Universidad de Yale, explicó que querían entender qué ocurre cuando alguien se acostumbra a preguntar a un chatbot cómo funciona el mundo. La historia es un terreno de prueba adecuado, porque contribuye a formar la visión del mundo, da a las personas un sentido de identidad y a menudo sirve de base para sus opiniones políticas.

Los científicos estudiaron dos tipos de sesgo. El primero es el oculto o latente. Son esos sesgos imperceptibles que el modelo absorbe durante el entrenamiento, al leer millones de páginas de internet impregnadas de opiniones. El segundo es el sesgo inducido por la instrucción: cuando el usuario le dice directamente al bot «Escribe desde una perspectiva liberal» o, por el contrario, «Desde el punto de vista de los conservadores».

Para poner a prueba la teoría, realizaron un experimento con 1.912 participantes seleccionados para representar a toda la población de Estados Unidos. A cada uno le dieron a leer breves descripciones de dos acontecimientos históricos reales del siglo XX. El primero fue la huelga general de Seattle de 1919, en la que decenas de miles de trabajadores dejaron de trabajar. El segundo, las protestas estudiantiles de 1968, que reclamaban una mayor representación de las minorías étnicas en las universidades. Eligieron esos acontecimientos porque la mayoría de la gente apenas sabe nada de ellos, así que el texto podía influir de verdad en su opinión.

La asignación se hizo al azar. Un grupo leyó artículos corrientes de Wikipedia. Otro, resúmenes neutrales creados con GPT-4o. Otros dos leyeron textos creados por el mismo GPT-4o, pero tras indicarle que escribiera con un enfoque liberal o conservador. Todos los textos eran estrictamente factuales: solo cambiaban el tono, los énfasis y la presentación.

Después de leer, se pidió a los participantes que respondieran a preguntas: qué pensaban de las huelgas, hasta qué punto era aceptable usar los programas escolares para promover ideas de justicia social y otras cuestiones similares. Las respuestas se puntuaban del 1 al 5: 1 correspondía a una postura muy conservadora, 5 a una muy liberal y el 3 era el punto medio.

Los resultados fueron notables. Los artículos de Wikipedia obtuvieron una media de 3,47, una postura moderada. Los textos neutrales de GPT-4o alcanzaron 3,57: un desplazamiento pequeño, pero constante, hacia una posición más liberal. Esto apunta a la existencia de un sesgo liberal oculto incluso ante consultas neutrales.

Cuando se pidió expresamente al bot que escribiera desde una perspectiva liberal, el público se desplazó aún más en esa dirección, con independencia de sus opiniones iniciales. En cambio, los textos conservadores reforzaron el conservadurismo principalmente entre quienes ya tendían a esa postura. Apenas afectaron a liberales y moderados.

Los científicos lo explican así: las personas suelen interpretar la información nueva a través del prisma de sus propias creencias. Lo que coincide con ellas se afianza; lo que las contradice provoca una reacción defensiva.

Karell subraya que incluso una consulta corriente y neutral a un chatbot comercial puede influir en las opiniones. Y si se programa al bot para que adopte un marco político concreto, algo muy fácil de hacer, la influencia aumenta. También es importante entender que los desarrolladores y reguladores de la IA se están convirtiendo, en la práctica, en guardianes del conocimiento, con capacidad para decidir cómo percibirán el pasado las generaciones futuras.

Los científicos advierten que los resultados deben interpretarse con cautela. Solo se estudiaron dos acontecimientos y el efecto fue moderado, aunque es posible que a largo plazo esos desplazamientos se acumulen. Además, distintos modelos, entrenados por distintas empresas, tendrán sesgos ocultos diferentes. Es importante entender cómo interactúan las inclinaciones iniciales del modelo y las instrucciones del usuario.

Ya están surgiendo los primeros intentos de empresas privadas de reescribir las fuentes de conocimiento globales: así, xAI anunció la creación de Grokipedia, su propia versión de una enciclopedia basada en el bot Grok.

El estudio, titulado «Cómo influyen los sesgos ocultos e inducidos en los relatos históricos de la IA sobre las opiniones», fue elaborado por Matthew Shu, Daniel Karell, Keitaro Okura y Thomas R. Davidson.