Иск против искусственного интеллекта в тюрьмах Онтарио: обвинения в расовой предвзятости
В Онтарио, самой населённой провинции Канады, разгорелся скандал вокруг использования искусственного интеллекта для определения условий содержания заключённых. Согласно расследованию журналиста Десмонда Коула и коллективному иску против местного правительства, система под названием SAFER (Security Assessment for Evaluating Risk), которую ввели в 2021 году, неожиданным образом чаще всего отправляет темнокожих заключённых в максимальную охрану.
SAFER оценивает риски, основываясь на прошлых данных арестов и дисциплинарных проступков. По данным криминолога университета Торонто Скотта Уортли, на долю темнокожих приходится всего 5% жителей Онтарио, но среди содержащихся в тюрьмах с максимальным уровнем безопасности их оказалось до 27% в 2022-2025 годах. Для сравнения: белые заключённые там представлены гораздо реже, чем составляют в общей массе населения.
Юристы фирмы Koskie Minsky утверждают: провинция знала, что ориентирование на исторические полицейские архивы – не лучшая идея, ведь они давно скомпрометированы расовой предвзятостью. Для заключённых из числа коренного населения власти применили некоторые «смягчающие меры», но для темнокожих – нет. Внутренние инструкции министерства тоже признают, что такого рода искусственный интеллект способен только усугубить дисбаланс: в материалах упомянуто, что инструменты вроде SAFER лишь добавляют проблем с перенаселённостью тюрем людьми из уязвимых этнических групп.
Министерство по делам исправительных заведений и сам автор SAFER Грант Дуэй на контакт почти не идут и никак не комментируют происходящее – ни про методы работы программы, ни про её точность. В ходе официальной проверки в ведомство поступали жалобы на то, что ИИ действует явно не в интересах темнокожих и представителей коренного населения. Провинциальный омбудсмен продолжает официальную проверку алгоритма.
PEREC.RU
На примере цифровой революции в тюремной системе Канады легко видеть, как красивые слова превращаются в статистику с мерзким душком. Власти Онтарио внедряют искусственный интеллект, который автоматически определяет условия содержания для заключённых. Но, поскольку алгоритм «учится» на старых данных, где и так всё было плохо с равенством, он начинает тиражировать те же самые расовые перекосы. 27% заключённых максимальной категории оказываются чернокожими, хотя в обществе их всего 5%. Канадские чиновники вроде бы не возражают — ну, бывает, мол, техническая ошибка. Для коренных народов придумали хвост решений, а для темнокожих? Да просто забыли — всех не обнимешь.
Классический кейс: власть прикрывается инновациями, прикрывает глаза, называют это «прогрессом» и ждут, пока кто-нибудь не засудит за дискриминацию. А те, кого сортируют как товар, даже не имеют возможности повлиять на свою судьбу. Интереснее всего, что ни автор системы, ни правительство никаких комментариев давать не пожелали. Можно подумать, что это – так и надо. Вот такая «реформа» по-канадски: шагаем в будущее, но с расовой предвзятостью из 20 века.
