Cómo se confundió la IA con el género

Un nuevo estudio publicado en la revista Computers in Human Behavior Reports ha demostrado que los intentos de hacer que la inteligencia artificial sea más «sensible» a las cuestiones de igualdad a veces generan sesgos aún más extraños e inesperados. Los investigadores descubrieron que los modelos de IA más populares empiezan a atribuir rasgos femeninos incluso a actividades típicamente «masculinas», y también consideran mucho más grave el daño causado a las mujeres que una agresión equivalente contra los hombres. Y todo ello como efecto secundario del ajuste fino de los modelos, en el que las personas evalúan las respuestas de los sistemas y les enseñan a evitar la discriminación.

Los investigadores sospechaban que esa etapa —en la que personas de carne y hueso orientan a la IA para enseñarle los valores «correctos»— podía haber llevado al modelo a ser excesivamente sensible a la protección de las mujeres y a su representación en ámbitos tradicionalmente masculinos. Para comprobarlo, realizaron una serie de experimentos con los modelos GPT‑3.5 Turbo, GPT‑4 y GPT‑4o.

En la primera serie, compuesta por cuatro experimentos, dieron a la IA veinte pares de frases sencillas, como las que escribirían alumnos de primaria. Algunas indicaban explícitamente el género; las demás contenían aficiones estereotipadas: «femeninas», como que les gustara el color rosa o soñar con ser enfermera, y «masculinas», como jugar al hockey o querer ser bombero. Se pidió al sistema que imaginara quién había escrito cada frase y determinara su nombre, edad y género. Cada par se probó diez veces, con un total de 400 respuestas.

Los resultados fueron asimétricos: si una frase contenía un estereotipo «femenino», la IA casi siempre elegía a una mujer. Pero, incluso ante estereotipos «masculinos», los modelos también solían señalar a una mujer. Es decir, una frase sobre que te gusta el fútbol convertía a menudo a su autor en una niña, como si la IA se empeñara en «incluir» a las mujeres en los roles masculinos, pero no hiciera el movimiento inverso con los hombres.

Otra serie de experimentos examinó cómo influían esos sesgos en las decisiones morales. Se plantearon a GPT‑4 situaciones hipotéticas en las que solo se podía evitar un apocalipsis nuclear ejerciendo distintas formas de violencia contra una persona. Había que valorar si las acciones eran aceptables en una escala del uno al siete. El sistema rechazó por completo el acoso a una mujer y le asignó la puntuación mínima: un uno. En cambio, valoró con más indulgencia el acoso a un hombre: un 3,34. También obtuvo una puntuación más alta —3,61— sacrificar a una persona al azar que hacer daño a una mujer.

En otro experimento preguntaron a la IA si eran aceptables la tortura y los malos tratos a personas de distintos géneros. El modelo volvió a oponerse con firmeza al daño contra las mujeres, pero fue mucho más tolerante con el daño a los hombres, al que dio una puntuación media de 4,2. En cambio, valoró por igual la tortura de mujeres y hombres.

Cuando los investigadores preguntaron directamente a GPT‑4 qué daño era peor, el sistema ordenó su gravedad según criterios objetivos: primero el sacrificio, después la tortura, luego los malos tratos y, por último, el acoso. Según el modelo, el género «no importaba». Es decir, las decisiones reales de la IA resultaron estar sesgadas de forma encubierta, aunque al responder directamente el modelo negara cualquier influencia del género.

En el último experimento se probó un escenario complejo: un artificiero debía usar la fuerza contra una persona inocente para conseguir un código biológico y evitar una explosión. Si el artificiero era una mujer y la víctima un hombre, la IA aprobaba casi por completo la violencia, con una puntuación media de 6,4. Pero si el artificiero era un hombre y la víctima una mujer, el modelo condenaba con dureza las mismas acciones: 1,75.

Los autores del estudio subrayan que estos efectos no son permanentes. Los modelos se actualizan y su comportamiento cambia. Pero lo principal es que los intentos de corregir unos sesgos pueden generar otros. Tampoco conviene que los usuarios consideren la IA una herramienta neutral: refleja no solo los datos, sino también los valores de las personas que participan en su ajuste.

Los investigadores creen que ahora es importante averiguar si aparecen sesgos similares en ámbitos prácticos, por ejemplo al seleccionar currículos o recomendar candidatos para un puesto. Ahí es donde estos cambios pueden tener consecuencias reales. Los autores señalan que el potencial de la IA es enorme, pero solo será beneficiosa si los desarrolladores aprenden a reducir las distorsiones sin crear otras nuevas.