IA generativa: desacuerdos culturales
Un nuevo estudio publicado en Nature Human Behaviour ha demostrado que la inteligencia artificial no es tan imparcial como suele creerse. Resulta que basta con cambiar el idioma en el que hablamos con la IA para que su «carácter» cambie ante nuestros ojos. Los investigadores descubrieron que, cuando se les plantean preguntas en chino, los modelos generativos como GPT-4 y ERNIE 3.5 tienden a ofrecer respuestas más colectivistas, «familiares» y atentas al contexto. En cambio, una consulta en inglés activa el escenario opuesto: la red neuronal empieza a razonar de forma individualista y más analítica.
Hablamos de IA generativa, es decir, de sistemas capaces de crear nuevos textos o imágenes a partir del análisis de enormes conjuntos de datos. Entre sus representantes más conocidos están ChatGPT, de OpenAI; Gemini, de Google, y ERNIE Bot, de la china Baidu.
El autor principal del estudio, Jackson G. Lu, del MIT, explica que se suele pensar que este tipo de IA responde igual a las consultas con independencia del idioma, pero se ha entrenado con textos de distintos entornos culturales. Por eso el equipo quiso comprobar hasta qué punto esos sesgos lingüísticos se manifiestan sistemáticamente en la práctica.
En el estudio se emplearon dos conceptos clave de la psicología cultural: la orientación social (hacia el «yo» o el «nosotros») y el estilo de pensamiento (analítico u holístico). Según los psicólogos, las culturas occidentales tienden a la independencia y a los objetivos personales; las orientales, a la armonía con la sociedad y al colectivismo.
Los experimentos se realizaron con GPT-4 y ERNIE 3.5. Los escenarios se plantearon en inglés y en chino y, para que el experimento fuera riguroso, cada variante se ejecutó 100 veces; el sistema se reiniciaba entre una iteración y otra.
La primera prueba medía la orientación social. Se pedía a la IA que eligiera parejas de círculos que ilustraban la relación entre el «yo» y el entorno: cuanto más se solapaban, mayor era el colectivismo. Cuando respondía en chino, la IA se inclinaba cada vez más hacia la «familia»: elegía los círculos con el máximo solapamiento. En inglés, ocurría lo contrario: se inclinaba por la independencia.
El segundo grupo de tareas identificaba el estilo de pensamiento. En chino, la IA explicaba con más frecuencia el comportamiento a partir de la situación y el contexto, generalizaba y contemplaba distintos desenlaces. En inglés, razonaba de forma lógica, se centraba en el individuo y aceptaba más a menudo la lógica formal incluso contra el sentido común (por ejemplo, que los cigarrillos, como «están hechos de plantas», supuestamente son saludables).
En las tareas para valorar la probabilidad de que algo cambiara (por ejemplo, si unos niños que se pelean podrían acabar formando pareja), la IA en chino subrayaba que el mundo es cambiante, mientras que en inglés se decantaba por la previsibilidad y la estabilidad.
Las diferencias se apreciaban no solo en las puntuaciones, sino también en la estructura de las respuestas: las instrucciones en chino provocaban razonamientos más «difusos» y contextuales; las inglesas, más concreción y una única versión.
Incluso al generar eslóganes publicitarios (por ejemplo, para seguros o cepillos), la IA proponía en chino mensajes sobre el cuidado de la familia, y en inglés, sobre el beneficio personal. El efecto se puede regular fácilmente: añade a la instrucción en inglés la frase «eres un ciudadano chino corriente» y, de pronto, la IA se vuelve colectivista.
La conclusión es que las redes neuronales no están aisladas de las culturas: el idioma influye en su comportamiento tanto como los datos con los que se entrenan. Esto significa que la IA puede influir discretamente en nuestra forma de pensar y en nuestras decisiones. Sin embargo, si conocemos ese sesgo, podemos corregirlo con una cadena de frases y aclaraciones en las instrucciones.
También conviene recordar las limitaciones: los investigadores trabajaron solo con dos idiomas y dos modelos (GPT-4 y ERNIE 3.5), y aún queda por ampliar el estudio a otras lenguas. Y no, los propios modelos no «tienen cultura»: simplemente reproducen patrones encontrados en los textos. En el futuro, los científicos esperan averiguar cómo se trasladan estos efectos a las decisiones cotidianas reales.
El artículo está firmado por Jackson G. Lu (MIT), Leslie Luyang Song y Lu Doris Zhang.
PEREC.RU
Y hasta aquí la neutralidad cultural en la era de los grandes modelos de lenguaje. Investigadores del MIT y Baidu se preguntaron: ¿qué pasa si se usa una misma IA en distintos idiomas? ¿Cambia su «carácter»? Pues claro que sí. En chino, de repente se acuerda de los lazos familiares, el colectivismo y las generalizaciones abstractas. El inglés, en cambio, la convierte automáticamente en una individualista empedernida: análisis, concreción y un «sálvese quien pueda».
Compararon GPT-4 y ERNIE 3.5 con decenas de pruebas en ambos idiomas: desde elegir «con quién vas por la vida» (un círculo se solapa con otro) hasta valorar la probabilidad de que unos matones de guardería acaben siendo «la pareja romántica del futuro». La versión china se inclina por el cambio, quién sabe qué traerá mañana; la inglesa, firme como una roca. Hasta los eslóganes publicitarios: el chino, por los valores familiares; el inglés, por el beneficio propio.
Lo mejor es que todo este numerito también se puede montar a mano: basta con escribir en la instrucción en inglés «imagina que eres de China». La IA se cambia de chaqueta al instante y se pasa a otro paradigma. Y sí: todo esto puede moldear nuestras decisiones, costumbres e incluso valores sin que sus dueños se enteren.
Así que, si le preguntas a tu ChatGPT por qué ha elegido esa recomendación, no te extrañe que maúlle algo como: «Era lo que marcaban las tendencias». No tienen cultura: son estereotipos digitalizados. Y cómo acabarán repercutiendo en la sociedad esas versiones digitales es otra cuestión.
