Нейросети судят по лицу

Исследователи выяснили, что современные мультимодальные языковые модели — системы, способные работать и с текстом, и с изображениями, — могут оценивать характер человека по его лицу. Причём делают это не нейтрально, а воспроизводя распространённую человеческую ошибку: приписывают компетентность, надёжность и даже склонность к преступлениям определённым чертам внешности.

Работа «Like humans, language models demonstrate face-to-character biases» опубликована в PNAS Nexus. Её авторами стали Steven A. Lehr из Cangrade, Inc., Yash Lothe и Mahzarin R. Banaji, профессор Гарвардского университета и внешний сотрудник Santa Fe Institute.

Люди часто мгновенно решают, кажется ли им незнакомец умным, компетентным или заслуживающим доверия. Такой механизм называют выводом о характере по лицу. Он опирается на форму и текстуру лица, хотя сама внешность не даёт достоверной информации о личных качествах. Исследования показывают, что эта ошибка формируется очень рано: уже трёхлетние дети устойчиво связывают отдельные черты лица с характером.

Учёные предположили, что языковые модели могли перенять такую установку из огромных массивов человеческих текстов. Хотя предубеждение выглядит визуальным, язык постоянно описывает лица, внешность и поведение, связывая их друг с другом. Поэтому модель могла усвоить не только факты, но и человеческие заблуждения.

В 13 экспериментах исследователи провели почти 8000 испытаний на четырёх моделях. Сначала GPT-4o показывали пары искусственно созданных лиц. Изображения меняли по конкретным признакам, которые люди обычно связывают с компетентностью или надёжностью.

В 600 испытаниях на компетентность GPT-4o выбирала «более компетентное» лицо в 87,83% случаев. В тесте на надёжность, также состоявшем из 600 сравнений, модель выбирала ожидаемое лицо в 72,67% случаев. Чем сильнее различались лица, тем заметнее был перекос: при разнице в шесть стандартных отклонений модель попадала в ожидаемый выбор в 98% случаев. Даже при почти незаметной разнице в два стандартных отклонения показатель оставался на уровне 70%.

Для сравнения: по математическим оценкам, люди в аналогичном задании выбрали бы более компетентное лицо примерно в 62,65% случаев. Это означает, что модель не просто повторяла человеческий стереотип, а могла усиливать его. Правда, авторы отмечают: часть эффекта объясняется высокой последовательностью ответов модели, а не обязательно более глубоким уровнем предубеждения.

Затем GPT-4o проверили на связанных качествах. В 2160 испытаниях модель выбирала лицо, соответствующее ожиданиям, в 74,63% случаев для признаков, связанных с компетентностью — например, «умный» или «ленивый», — и в 73,33% случаев для признаков, связанных с надёжностью, таких как «добрый» или «эгоистичный».

Отдельно исследовали 150 пар лиц макак. Ранее люди оценили этих животных как «злых» или «милых». GPT-4o выбирала «милую» обезьяну как более надёжную в 66% случаев. Это может означать, что модель применяет обобщённое представление о «надёжном лице», а не просто воспроизводит знакомые человеческие изображения.

Самая неприятная часть эксперимента касалась решений с высокими ставками. В 540 испытаниях GPT-4o просили выбрать, кто с большей вероятностью окажется серийным убийцей, торговцем людьми или организатором финансовой пирамиды. В 68,70% случаев модель указывала на лицо, которое люди обычно сочли бы менее надёжным.

В другом тесте модель советовала, кого нанять ректором университета или кому выдать финансирование для технологического стартапа. В 540 сравнениях она рекомендовала более «компетентное» лицо в 75,19% случаев. Иными словами, внешность незаметно проникала и в обвинения, и в положительные кадровые решения.

Учёные повторили основные тесты на GPT-5, Gemini 3 Flash Preview и Claude Sonnet 4.5. Все три системы показали сильное предубеждение. GPT-5 выбирала ожидаемое лицо в 94,33% базовых оценок компетентности и в 97,04% рекомендаций для реальных решений. Новые модели не избавились от проблемы — в некоторых тестах они усилили её. Более развитое рассуждение, вопреки надеждам, не стало автоматической прививкой от стереотипов.

Авторы предупреждают, что результаты нельзя без оговорок переносить на все ситуации. Модели заставляли выбрать одно лицо из двух, а использовали только статичные двухмерные изображения. Неизвестно, изменилось бы поведение при работе с видео, разными ракурсами и без принудительного выбора.

При этом исследователи считают недостаточным объяснение «модель просто повторяет обучающие данные». Предубеждение оказалось сильнее человеческого и увеличивалось в новых поколениях систем. Если искусственный интеллект действительно способен усваивать всё, что люди выражают словами, он может не только отражать наши ошибки, но и усиливать их.

Пока неизвестно, как модели оценивают лица по другим признакам, включая пол и расу. Для очевидных форм дискриминации разработчики устанавливают защитные ограничения, но более тонкие ассоциации, связанные с формой лица, могут оставаться без контроля.

Авторы рекомендуют особенно осторожно применять такие системы в найме, юриспруденции и других сферах, где решение влияет на судьбу человека. Перед внедрением моделей необходимо проверять их на скрытые предубеждения. Иначе цифровой «объективный» помощник окажется обычным физиогномистом — только быстрее, увереннее и без права на неловкое молчание.