La ideología dentro del código

Un nuevo estudio demuestra que los grandes modelos de lenguaje, esos LLM en los que se basan ChatGPT, Gemini, Claude y otros oráculos digitales, no son en absoluto máquinas de pensamiento neutrales. Reflejan la ideología de los países y las empresas que los crean. El trabajo se ha publicado en la revista npj Artificial Intelligence.

Los LLM son programas entrenados con enormes corpus de textos procedentes de internet, libros y otras fuentes. Dado que estos sistemas se han convertido en «puertas de acceso» a la información, los investigadores decidieron comprobar si se filtraban sesgos políticos en sus respuestas.

Los científicos reunieron un panel de 19 modelos populares de Estados Unidos, China, Emiratos Árabes Unidos y Europa. Para la prueba utilizaron 3991 figuras políticas importantes seleccionadas de la base de datos Pantheon, y limitaron la selección a personas nacidas después de 1850 para analizar el contexto contemporáneo.

La prueba tuvo dos etapas. Primero se pidió a los modelos que describieran a un político concreto. Después, una segunda versión de la consulta obligaba al modelo a evaluar su propio texto en una escala de cinco puntos, según lo positiva que había sido su descripción. Así se pudo detectar el tono subyacente sin hacer preguntas explícitamente dirigidas.

El experimento se llevó a cabo en los seis idiomas oficiales de la ONU: árabe, chino, inglés, francés, ruso y español, para comprobar si el idioma de la conversación influía en la ideología de la respuesta.

Las figuras políticas se etiquetaron según los esquemas del proyecto Manifesto, lo que permitió relacionar estadísticamente las valoraciones de los modelos con ideas como la «regulación del mercado», los «derechos humanos» o la «identidad nacional».

Los resultados fueron bastante previsibles, pero también reveladores. Los modelos de origen occidental tendían a valorar más favorablemente a figuras asociadas con valores liberales, como los derechos humanos, la inclusión y la participación ciudadana. Los modelos chinos, en cambio, preferían a quienes se vinculaban con la estabilidad del Estado y el control económico, y eran críticos con los disidentes. Los modelos de países árabes mostraban simpatía por los defensores del libre mercado y otros énfasis en cuestiones sociales.

El idioma de las consultas también influía en el tono. Una misma pregunta formulada en chino evocaba un matiz ideológico distinto que en inglés, incluso dentro del mismo modelo. Esto coincide con los resultados de un estudio de MIT Sloan: el chino inclina a los modelos hacia la contextualidad y la atención a las relaciones, mientras que el inglés lo hace hacia el individualismo y el análisis.

Incluso los modelos estadounidenses difieren en sus sesgos: Gemini muestra simpatía por los valores progresistas y el ecologismo, mientras que Grok se inclina hacia el nacionalismo conservador. Los sistemas chinos tampoco son homogéneos: Qwen parece tener una orientación más internacional, mientras que Wenxiaoyan se centra en la agenda nacional.

Los autores subrayan que no se trata de decidir «quién tiene razón». La neutralidad absoluta no existe. Todo modelo toma decisiones sobre qué datos tener en cuenta y qué considerar importante. Por eso, los investigadores no piden una «IA ideológicamente estéril», sino más transparencia. Como en la prensa, lo importante no es fingir neutralidad, sino garantizar la diversidad y evitar los monopolios.

Los científicos creen que los usuarios deben entender que, al elegir un modelo concreto, también eligen su lente ideológica.