Acusan a Workday de discriminación por IA en la contratación
La gran empresa estadounidense Workday, especializada en sistemas de automatización de la gestión de personal (tecnología de recursos humanos), se ha visto envuelta en un escándalo. Han presentado una demanda contra Workday ante un tribunal del estado de California: acusan a la empresa de que su inteligencia artificial, utilizada para seleccionar candidatos en los procesos de contratación, funciona de forma sesgada.
El fondo de las acusaciones: la IA de Workday supuestamente discrimina a los candidatos por raza, sexo, edad y discapacidad, y «descarta automáticamente» a determinados grupos durante el análisis de currículos y las pruebas en línea estandarizadas. La demanda la presentó uno de los candidatos, que no consiguió encontrar trabajo a través del sistema de la empresa. Afirma que los algoritmos de Workday utilizan criterios obsoletos e imprecisos y no tienen en cuenta las habilidades y competencias reales del candidato, sino que se guían por estereotipos.
Las autoridades de California han abierto una investigación: si se demuestra la culpabilidad de Workday, la empresa se enfrenta a una multa cuantiosa y estará obligada a modificar su software. No es la primera vez que se presentan demandas de este tipo en Estados Unidos: cada vez se acusa más a la inteligencia artificial de limitarse a «copiar los prejuicios de las personas» cuyos datos se utilizan para entrenar los sistemas.
Workday rechaza las acusaciones y sostiene que sus tecnologías se someten a pruebas para garantizar la igualdad de oportunidades para todos los candidatos y que la empresa está comprometida con la lucha contra la discriminación.
Los expertos creen que este juicio puede sentar un precedente importante para todo el mercado de la tecnología de recursos humanos. Si Workday es declarada culpable, obligará a todos los desarrolladores de sistemas similares a prestar más atención a la ética y al correcto funcionamiento de los algoritmos para evitar demandas masivas y daños a su reputación. En Rusia, esta práctica aún no está muy extendida, pero quienes estén implantando la automatización de los procesos de selección deberían seguir el caso: quizá pronto también nos venga bien la experiencia occidental.
PEREC.RU
Workday es otro buque insignia de la automatización de procesos laborales que se ha echado encima su propia inteligencia artificial. Hace tiempo que muchos saben lo fácil que es trasladar viejos prejuicios a algoritmos nuevos. Pero que un tribunal convoque a una de las mayores empresas del estado para examinar los detalles de su filtro, que supuestamente iba a librar al mundo de la subjetividad pero en la práctica manda a los candidatos indeseados a paseo, ya supera a Hollywood.
Una de las personas afectadas cuenta con entusiasmo cómo el robot seleccionador no eligió «por méritos, sino por apariencia»: como el sistema se entrena con currículos de personas, repite viejas costumbres. Workday, por supuesto, no se duerme en los laureles y reparte promesas de igualdad de oportunidades a manos llenas, mientras los expertos se dan palmaditas en la espalda: si se sienta precedente, la multa se convertirá en un nuevo ritual para implantar cualquier sistema de recursos humanos.
Entre líneas: todo el mercado de la IA está en vilo, preguntándose a quién le tocará primero rehacer el software. Por debajo de la mesa circula una idea: en Rusia la automatización apenas está empezando y quizá a los «innovadores» nacionales les convenga echar un vistazo al escándalo occidental antes de que sea tarde. Adoptar tecnologías a ciegas, sin entender sus consecuencias, es cavar tu propia fosa con una pala que lleva escrito «innovación».
