Тест на предвзятость проверили — и нашли в нём осторожность

Новое исследование ставит под сомнение ключевое допущение самого известного инструмента для измерения неявной предвзятости — Implicit Association Test, или IAT. Учёные обнаружили: итоговый результат теста может сильнее зависеть не от автоматических ассоциаций человека, а от того, насколько осторожно он старается отвечать и не ошибаться.

Неявная предвзятость — это установки и стереотипы, которые способны влиять на решения без осознанного намерения. В IAT участник быстро распределяет изображения и слова по категориям с помощью двух клавиш. Например, в тесте на расовые установки сначала одной клавишей объединяют лица белых людей с позитивными словами, а другой — лица темнокожих людей с негативными. Затем пары меняют местами: белые лица соединяют с негативными словами, а темнокожие — с позитивными.

Обычно во втором, «несовместимом», варианте люди отвечают медленнее. Разницу во времени переводят в показатель D-score и традиционно трактуют как силу автоматической предвзятости: мозгу якобы сложнее обрабатывать сочетания, которые противоречат закрепившимся ассоциациям.

Но есть и другое объяснение. Участник может намеренно замедлиться, чтобы не нажать неправильную клавишу. Это называется осторожностью ответа — сознательной стратегией, в которой точность важнее скорости. В отличие от автоматической лёгкости принятия решения, осторожность можно контролировать.

Исследователи проанализировали 109 417 сессий тестирования из проекта Ideology 2.0 на платформе Project Implicit. Данные охватывали 39 тем — от расы, сексуальности и возраста до политики и отношения к экономическим системам. Участники выполняли стандартные задания, а компьютер фиксировал правильность и время ответов в миллисекундах. Многие также заполняли анкеты, где прямо указывали свои предпочтения.

Для анализа применили Racing Diffusion Model — математическую модель, которая разделяет время реакции на три компонента: автоматическую лёгкость принятия решения, осторожность ответа и время, необходимое для физического нажатия клавиши и восприятия стимула.

Все три компонента менялись в зависимости от типа задания. Однако именно осторожность оказалась более сильным предиктором итогового D-score, чем автоматические ассоциации и время, не связанное непосредственно с принятием решения. Участники систематически замедлялись в сложных блоках, чтобы отвечать правильно, а стандартный показатель смешивал эту стратегию с предполагаемой предвзятостью.

Результат повторялся почти во всех 39 темах. Более того, осторожность лучше предсказывала ответы людей в прямых анкетах: примерно для половины тем, тогда как автоматический процесс — примерно для одной десятой. Это означает, что IAT может отражать не только то, какие ассоциации возникают автоматически, но и то, как человек сознательно управляет конфликтом между скоростью и точностью.

Авторы не утверждают, что неявной предвзятости не существует или что IAT бессмысленен. Речь идёт о составе его показателя. Два человека с одинаковыми автоматическими ассоциациями могут получить разные результаты просто потому, что один отвечал осторожнее.

У исследования есть ограничения. Модель выводит психические процессы из времени реакций, поэтому остаётся приближённым описанием мышления. Кроме того, в базе учитывалось только итоговое время после исправления ошибки, а первоначальные ошибочные реакции отдельно проанализировать было нельзя. Участники добровольно приходили на онлайн-платформу, поэтому среди них могли преобладать люди, особенно заинтересованные в том, чтобы не выглядеть предвзятыми.

По мнению Daniel J. Lee из Университета Делавэра, работа не отменяет предыдущие исследования, а помогает уточнить открытый вопрос: что именно измеряет IAT и как знание о существовании неявной предвзятости меняет поведение участника. Человек, который не хочет получить ярлык предубеждённого, вполне может начать отвечать осторожнее.

Авторы предлагают проверять влияние разных инструкций — например, просить участников ставить скорость выше точности. Они также считают важным отделять осторожность от автоматической ассоциации в будущих и уже опубликованных исследованиях, а также изучать ошибки и другие инструменты измерения установок. Для этого команда сделала свои вычислительные методы доступными, включая бесплатный инструмент FlexDDM для работы с диффузионными моделями.

Исследование «Challenging the Mechanism for the Implicit Association Test» подготовили Kyle J. LaFollette, Doroteja Rubez, Heath A. Demaree и Amit Goldenberg. Работа опубликована в Nature Human Behaviour.