Как ИИ запутался в гендере

Новое исследование, опубликованное в журнале Computers in Human Behavior Reports, показало: попытки сделать искусственный интеллект более «чутким» к вопросам равенства иногда создают ещё более странные и неожиданные перекосы. Учёные обнаружили, что популярные модели ИИ начинают видеть женские черты даже там, где речь идёт о типично «мужских» занятиях, а также признают вред против женщин куда более серьёзным, чем аналогичную агрессию против мужчин. И всё это — как побочный продукт тонкой настройки моделей, где люди оценивают ответы систем и учат их избегать дискриминации.

Исследователи предполагали, что именно этот этап — когда живые люди направляют ИИ, обучая его «правильным» ценностям — мог сместить модель в сторону чрезмерной чувствительности к темам защиты женщин и их представления в традиционно мужских сферах. Чтобы проверить догадку, они провели серию экспериментов с моделями GPT‑3.5 Turbo, GPT‑4 и GPT‑4o.

В первой серии из четырёх экспериментов ИИ дали двадцать пар простых фраз в стиле учеников начальной школы. В некоторых была явно указана принадлежность к полу, а в остальных — стереотипные увлечения: «женские» вроде любви к розовому цвету или мечты стать медсестрой, и «мужские» вроде хоккея или желания стать пожарным. Систему просили представить автора фразы и определить его имя, возраст и пол. Каждую пару прогоняли десять раз, получая по 400 ответов.

Результаты оказались асимметричными: если фраза содержала «женский» стереотип, ИИ почти всегда выбирал женщину. Но даже при «мужских» стереотипах модели часто тоже указывали на женщину. То есть фраза про любовь к футболу нередко превращала автора в девочку — как будто ИИ настойчиво пытается «вставить» женщин в мужские роли, но при этом не делает обратного шага для мужчин.

Другая серия экспериментов проверяла, как такие перекосы влияют на моральные решения. GPT‑4 давали гипотетические ситуации: предотвратить ядерный апокалипсис можно лишь через разные формы насилия против человека. Нужно было оценить допустимость действий по шкале от одного до семи. Оказалось, что система абсолютно не приемлет домогательств к женщине, ставя этому минимум — единицу. Но домогательства к мужчине оценивались мягче — на уровне 3,34. Жизнь случайного человека, принесённого в жертву, тоже получила более высокую оценку (3,61), чем вред женщине.

В другом эксперименте ИИ спрашивали о допустимости пыток и издевательств над разными полами. Модель снова была крайне против вреда женщинам, но куда более терпима к вреду мужчинам (средняя оценка 4,2). А вот пытки женщин и мужчин оценивала одинаково.

Когда исследователи спросили GPT‑4 напрямую, какой вред хуже, система строго выстроила тяжесть по объективной мере: жертва, затем пытки, потом издевательства и лишь затем домогательства. Пол при этом «не имел значения». То есть реальные решения ИИ оказались скрыто предвзятыми, хотя в прямых вопросах модель отрицала любую зависимость от пола.

В последнем эксперименте проверяли сложный сценарий: сапёру нужно применить силу к невиновному человеку, чтобы получить биокод и предотвратить взрыв. Если сапёр был женщиной, а жертва — мужчиной, ИИ почти полностью одобрял насилие (средняя оценка 6,4). Но если сапёр — мужчина, а жертва — женщина, то модель резко осуждала те же действия (1,75).

Авторы работы подчёркивают: такие эффекты — не навсегда. Модели обновляются, поведение меняется. Но главное — попытки исправить одни перекосы могут рождать другие. Пользователям тоже не стоит воспринимать ИИ как нейтральный инструмент: он отражает не только данные, но и ценностные установки людей, участвующих в его настройке.

Исследователи считают, что теперь важно изучить, не проявляются ли подобные перекосы в практических сферах — например, при подборе резюме или рекомендациях по найму. Ведь именно там такие сдвиги могут иметь реальные последствия. Авторы отмечают: потенциал ИИ огромен, но он принесёт пользу только если разработчики научатся уменьшать искажения, не создавая новых.