Por qué la IA se equivoca al juzgar a las personas

El artículo titulado «They are not human: Why AI has predictable and systematic biases when it comes to judging people» aborda un problema que lleva tiempo asomando en el horizonte tecnológico, pero que solo ahora empieza a preocupar de verdad a investigadores y a la sociedad. Se trata de que la inteligencia artificial, por impresionante que parezca, sigue siendo una herramienta cuyas conclusiones dependen de la calidad de los datos con los que se ha entrenado. Y como los datos que se recopilan sobre las personas suelen estar llenos de errores, sesgos y prejuicios sociales, los algoritmos heredarán inevitablemente esos mismos defectos.

El artículo explica que la IA no es humana ni lo será nunca, por muy «inteligente» que parezca. No tiene empatía, no entiende el contexto ni distingue las particularidades culturales: solo detecta patrones estadísticos. Si los datos de entrenamiento contienen esquemas que, por ejemplo, vinculan a determinados grupos étnicos con ciertos comportamientos, la IA empezará a reproducir automáticamente esas conclusiones. Por eso los sistemas que evalúan la fiabilidad, predicen la delincuencia, seleccionan candidatos para un empleo y otras herramientas similares toman a veces decisiones que parecen discriminatorias.

Los científicos señalan que esos sesgos no son casuales: son «predecibles y sistemáticos». Esto significa que el algoritmo no se equivoca solo en casos aislados, sino que repite el mismo error una y otra vez y refuerza estereotipos injustos. Varios estudios han analizado cómo evalúa la IA los rostros de las personas. Se ha descubierto que los programas pueden calcular mal la edad, las emociones o incluso las intenciones de alguien según el color de su piel, su sexo o sus rasgos faciales. Algo parecido ocurre con los modelos de lenguaje: pueden asociar ciertas profesiones con un sexo determinado o interpretar como agresivas declaraciones neutras, según el nombre de quien las firma.

Los autores del artículo subrayan que la causa principal del problema es que la IA carece de percepción humana. Los algoritmos no entienden que detrás de las cifras hay personas reales, con una biografía, una experiencia, emociones y un contexto. Para una máquina, no son más que conjuntos de características. Por eso ni siquiera las redes neuronales más complejas pueden distinguir entre un patrón que refleja la realidad y otro que surge de una injusticia histórica. Si al algoritmo se le muestra que un grupo determinado obtiene menos notas altas en los exámenes, lo considerará un hecho objetivo y no una consecuencia de la desigualdad social.

El artículo también plantea cómo combatir estas distorsiones. Los investigadores proponen mejorar los datos, introducir controles para detectar la discriminación y hacer los algoritmos más transparentes, de modo que se puedan identificar las fuentes de los errores. Sin embargo, los autores reconocen que es imposible eliminar por completo los sesgos mientras la IA siga aprendiendo de datos humanos. Al fin y al cabo, la propia sociedad está lastrada por prejuicios que acabarán llegando a los algoritmos.

La conclusión del artículo es clara: la IA es una herramienta poderosa, pero no es un juez ni una experta en la naturaleza humana. No puede sentir, comprender ni evaluar como lo hace una persona. Por eso, pese a la creciente popularidad de los sistemas automatizados de evaluación, hay que recordar sus limitaciones y mantener el pensamiento crítico. La decisión humana sigue siendo la última instancia.