Cuando las máquinas deciden por las personas

Un nuevo estudio muestra que, si un candidato sabe que quien lo evalúa no es una persona, sino un programa de inteligencia artificial, casi automáticamente empieza a comportarse de otra manera. La gente se vuelve más «analítica», menos emocional y adapta su presentación personal a lo que cree que le gusta a la máquina. El resultado: evaluaciones distorsionadas y el riesgo de que puestos importantes acaben en manos de personas que no son las más adecuadas. Estas conclusiones se han publicado en Proceedings of the National Academy of Sciences.

Con el desarrollo de las tecnologías digitales, las empresas están adoptando masivamente herramientas automatizadas de selección, desde entrevistas en vídeo hasta algoritmos para el primer cribado de currículos. Las universidades también utilizan sistemas similares para hacer frente a la avalancha de candidatos. Ante estos cambios, los gobiernos aprueban leyes de transparencia. En la Unión Europea está en vigor la Ley de Inteligencia Artificial, que obliga a los empleadores a informar a los candidatos si utilizan algoritmos en procedimientos importantes. En Estados Unidos también están surgiendo normas parecidas.

Pero la transparencia cambia el comportamiento de los propios candidatos. Los investigadores decidieron averiguar cómo. Al fin y al cabo, la gente siempre intenta causar buena impresión, sobre todo cuando se trata de un empleo o de entrar en la universidad. Normalmente, el candidato intenta adivinar qué quiere oír la persona que lo evalúa. Pero los científicos plantearon que, ante una máquina, la gente hace lo mismo, basándose en sus ideas sobre cómo «piensa» un ordenador.

En el imaginario colectivo, la máquina es una lógica fría, sin emociones ni intuición. En psicología, estas creencias se denominan concepciones cotidianas. Los autores del estudio plantearon que son precisamente esas ideas las que llevan a la gente a presentarse como más racional. A este fenómeno lo llamaron «efecto de la evaluación de la IA».

El estudio estuvo dirigido por Jonas Goergen, del Instituto de Ciencias del Comportamiento y Tecnología de la Universidad de San Galo. Junto con sus colegas Emanuel de Bellis y Anne-Kathrin Klesse, realizó doce experimentos con más de 13.000 participantes. Primero analizaron datos de la empresa Equalture, donde más de 1.400 candidatos hicieron una prueba de habilidades en forma de juego. Quienes más sospechaban que intervenían algoritmos reconocieron que habían modificado mucho su comportamiento.

Después, los científicos llevaron a cabo un estudio de campo en la plataforma Upwork. A los candidatos a un puesto de planificador de eventos les decían que los evaluaría una persona o que los analizaría un programa. A continuación, los candidatos se describían y se situaban en una escala de «intuitivo» a «analítico». Quienes creían que la evaluación era automática hacían especial hincapié en su capacidad analítica.

Para demostrar la relación de causa y efecto, trasladaron el experimento a un entorno controlado. Se pidió a los participantes que imaginaran que solicitaban plaza en una universidad ficticia. A unos les dijeron que los evaluaría una persona y a otros, que los evaluaría una IA. Los integrantes del grupo «máquina» afirmaban que abordaban las tareas de forma mucho más analítica y que reprimían la intuición. La causa se descubrió enseguida: esa idea de que las máquinas son racionales era precisamente lo que provocaba el cambio.

En una encuesta representativa de la población estadounidense, los investigadores descubrieron que quienes más modificaban su comportamiento eran los participantes jóvenes y las personas que temían recibir una valoración negativa. Y en un experimento con una recompensa real —la entrada en un panel de investigación de pago—, los participantes volvieron a dar prioridad a sus cualidades lógicas cuando pensaban que los evaluaba una IA.

En un experimento en varias fases, primero registraron el comportamiento real de los participantes y luego simularon un proceso de selección. Cuando la evaluación corría a cargo de una máquina, la gente se alejaba radicalmente de su imagen «de base». La distorsión era tan intensa que podía cambiar el resultado de la selección. Las simulaciones mostraron que una cuarta parte de las personas con una puntuación alta en lógica habría suspendido si las hubiera evaluado una persona.

Para comprobar el mecanismo, pidieron a los participantes que imaginaran un programa capaz de comprender las emociones. Les propusieron explicar por qué una máquina podría captar los sentimientos. Al cambiar esa premisa, desaparecía también el deseo de hacerse pasar por una «calculadora». A veces, incluso se mostraban más intuitivos que en la situación en la que los evaluaba una persona.

Ni siquiera un sistema híbrido —primero una máquina y después una persona— eliminó por completo el efecto. La gente seguía exagerando su racionalidad.

Los autores advierten de que esta distorsión del comportamiento socava la precisión de los sistemas automatizados. Un empleador corre el riesgo de contratar a alguien que no es lo que necesita. Por ejemplo, busca a un trabajador social empático y acaba con alguien que solo intentaba gustarle al algoritmo. Lo mismo podría ocurrir con las prestaciones sociales o los créditos.

El estudio también apunta a que la gente puede restar importancia a su creatividad, evitar riesgos y modificar sus principios éticos si cree que la juzga una máquina. Además, las nuevas tecnologías, como los chatbots avanzados que parecen más «humanos», podrían cambiar la reacción de las personas.

El artículo que describe el estudio se titula «AI assessment changes human behavior».