La inteligencia artificial vuelve a meter la pata: ahora también en moral

Un estudio reciente publicado en Proceedings of the National Academy of Sciences ha demostrado que los grandes modelos lingüísticos —sistemas de IA que aprenden de cantidades ingentes de textos, como ChatGPT de OpenAI o los modelos equivalentes de Google y Meta— tienen un problema considerable a la hora de evaluar los valores morales de las personas, sobre todo cuando se trata de culturas no occidentales. Dicho sin rodeos, la IA sobrevalora las prioridades morales de países como Estados Unidos y Reino Unido, mientras se empeña en pasar por alto las particularidades morales de África, Asia o América Latina. Los investigadores advierten que, si dejamos que la IA juzgue los problemas globales, seguirá reproduciendo sin querer estereotipos que en la realidad solo dificultan que nos entendamos.

¿Cómo se organizó el estudio? Un grupo de investigadores de la Universidad de Massachusetts, dirigido por Mohammad Atari, quiso averiguar si la inteligencia artificial podía «captar» adecuadamente los valores morales de distintas partes del mundo. Para ello utilizaron un cuestionario psicológico estándar que mide seis valores clave: Cuidado, Igualdad, Proporcionalidad, Lealtad, Autoridad y Pureza. Por si alguien lo ha olvidado, el Cuidado tiene que ver con la compasión, la Igualdad con la justicia y la Pureza con la rectitud moral y demás retórica. Más de 90.000 personas de 48 países respondieron a la encuesta e indicaron su postura en una escala del 1 al 5. Para que el experimento fuera riguroso, los investigadores ajustaron los datos según el sexo, la edad y las estadísticas del Banco Mundial.

Después entraron en juego las máquinas: introdujeron las mismas preguntas en varias versiones de IA (GPT-3.5, GPT-4 y GPT-4o, además de LLaMA, de Meta, y Gemini Pro, de Google). Repitieron cada pregunta diez veces para evitar «casualidades» y los sistemas informáticos generaron más de 103.000 respuestas. Después las compararon con las respuestas humanas en las seis categorías y, para hacerlo más claro, calcularon la llamada distancia euclídea: cuánto se alejaban las respuestas de la IA de las opiniones de las personas de cada país.

El resultado no se hizo esperar: las máquinas sobrevaloraban sistemáticamente la importancia del Cuidado y la Autoridad en los países occidentales (Estados Unidos, Canadá y Australia), mientras que los valores morales del resto del mundo les importaban un comino. La diferencia se notaba especialmente en Oriente Próximo y África. Tradujeron los cuestionarios al árabe, al español y al urdu, incluyeron a otras 4.600 personas de nueve países no anglófonos y, aun así, el panorama no cambió: la IA seguía inclinándose hacia Occidente.

La idea de la «objetividad de las máquinas» se estrella contra el viejo problema de los datos sesgados: la IA aprende de lo que le dan, y lo que le dan son, sobre todo, textos occidentales en inglés. Ahí están periodistas y editores, con su transparencia y su discurso moral. A ver cómo evitas luego, sin conocer los matices culturales, presentar una respuesta de plantilla como verdad universal. Ni siquiera los intentos de «depurar» el sistema con editores humanos —a menudo también occidentales— sirven de mucho: quienes enseñaron a la IA a ser «educada» también le inculcaron sus propios límites morales.

Los desarrolladores reconocen abiertamente que este enfoque puede llevar a conclusiones distorsionadas, incluso a errores en decisiones gubernamentales. Imaginemos un chatbot de psicología con una perspectiva occidental que recomienda a una familia asiática romper con sus tradiciones en nombre de la realización personal: el conflicto cultural está servido.

¿Qué se puede hacer? Habrá que confiar en ampliar los horizontes de la IA con textos locales reales o, como recomienda el autor del estudio, tratar con cierto escepticismo cualquier consejo o juicio de las máquinas. Sobre todo si la cuestión tiene que ver con la moral o con temas polémicos: religión, aborto o política.