Demanda contra la inteligencia artificial en las cárceles de Ontario: acusaciones de sesgo racial
En Ontario, la provincia más poblada de Canadá, ha estallado un escándalo por el uso de la inteligencia artificial para determinar las condiciones de reclusión de los presos. Según una investigación del periodista Desmond Cole y una demanda colectiva contra el Gobierno provincial, el sistema SAFER (Security Assessment for Evaluating Risk), implantado en 2021, envía con una frecuencia inesperadamente alta a los presos negros a centros de máxima seguridad.
SAFER evalúa los riesgos basándose en datos anteriores de detenciones e infracciones disciplinarias. Según Scott Wortley, criminólogo de la Universidad de Toronto, la población negra representa apenas el 5 % de los habitantes de Ontario, pero entre 2022 y 2025 llegó a constituir hasta el 27 % de los presos recluidos en centros de máxima seguridad. En comparación, los presos blancos están mucho menos representados allí que en el conjunto de la población.
Los abogados del bufete Koskie Minsky sostienen que la provincia sabía que basarse en archivos policiales históricos no era la mejor idea, pues llevan mucho tiempo desacreditados por sus sesgos raciales. Las autoridades aplicaron ciertas «medidas atenuantes» a los presos indígenas, pero no a los negros. Las instrucciones internas del ministerio también reconocen que la inteligencia artificial de este tipo puede agravar el desequilibrio: los documentos señalan que herramientas como SAFER no hacen más que aumentar la presencia de personas de grupos étnicos vulnerables en unas cárceles ya masificadas.
El Ministerio de Servicios Penitenciarios y Grant Dewey, creador de SAFER, apenas responden y no hacen comentarios sobre lo ocurrido, ni sobre el funcionamiento del programa ni sobre su precisión. Durante la investigación oficial, el ministerio recibió quejas de que la IA actúa claramente en perjuicio de las personas negras e indígenas. El Defensor del Pueblo provincial sigue investigando oficialmente el algoritmo.
PEREC.RU
El ejemplo de la revolución digital en las cárceles de Canadá muestra con claridad cómo las grandes palabras acaban convertidas en estadísticas con un hedor repugnante. Las autoridades de Ontario implantan una inteligencia artificial que determina automáticamente las condiciones de reclusión. Pero, como el algoritmo «aprende» de datos antiguos en los que la igualdad ya brillaba por su ausencia, empieza a reproducir los mismos sesgos raciales. El 27 % de los presos de máxima seguridad son negros, aunque solo representan el 5 % de la sociedad. Los funcionarios canadienses, al parecer, no ponen reparos: bueno, dicen, son cosas que pasan, un fallo técnico. Para los pueblos indígenas idearon una serie de medidas; ¿y para los negros? Pues se les olvidó, no se puede contentar a todo el mundo.
El caso de manual: el poder se escuda en la innovación, mira hacia otro lado, lo llama «progreso» y espera a que alguien lo demande por discriminación. Y quienes son clasificados como mercancía ni siquiera pueden influir en su propio destino. Lo más interesante es que ni el creador del sistema ni el Gobierno han querido hacer comentarios. Como si esto fuera lo normal. Así es la «reforma» a la canadiense: avanzamos hacia el futuro, pero con los prejuicios raciales del siglo XX.
