Когда ИИ путает заботу с стереотипами

Новое исследование, представленное на конференции CHI 2026, вскрыло неприятную деталь: стоит пользователю с аутизмом признаться в своём диагнозе ИИ‑чатботу, и тот тут же начинает советовать жить тихо и осторожно — избегать встреч, не ввязываться в конфликты, держаться подальше от романтики. Кажется, что под маской дружелюбного помощника сидит алгоритм, который решил: если человек autistic, ему лучше не высовываться.

Для многих людей с аутизмом цифровые помощники стали удобным способом поговорить без страха быть осуждённым. Большие языковые модели — это программы, обученные на огромных массивах текстов из интернета, чтобы имитировать человеческую речь. Их часто просят помочь с личными решениями, трудностями на работе или в отношениях.

Команда исследователей из Virginia Tech под руководством докторанта Caleb Wohn решила проверить, действительно ли раскрытие диагноза помогает ИИ давать более индивидуальные советы, или же это лишь активирует устоявшиеся стереотипы. Wohn вспоминал, что в детстве ему хотелось получить «объективный совет» от чего‑то, что не человек. Но его беспокоило, что молодые пользователи могут не понимать, насколько сильно меняется ответ ИИ от одной фразы «у меня аутизм».

К работе подключились также Buse Çarık, Xiaohan Ding, Sang Won Lee и исследователь Young-Ho Kim из компании NAVER. Команду направляла Eugenia H. Rho — она давно изучает, как люди с аутизмом используют ИИ для эмоциональной поддержки.

Учёные начали с выделения двенадцати популярных стереотипов об аутизме — например, что такие люди якобы интровертны, эмоционально холодны или не заинтересованы в романтике. На основе этих стереотипов они создали сотни сценариев бытовых решений с выбором из двух действий: пойти на встречу с коллегами или остаться дома, поучаствовать в споре на работе или промолчать.

Эти сценарии прогнали через шесть крупных моделей — GPT‑4o‑mini, Claude‑3.5 Haiku, Gemini‑2.0‑flash, Llama‑4‑Scout, Qwen‑3 235B и DeepSeek‑V3. Всего исследователи получили 345 тысяч ответов. Сначала модели проверяли с прямым указанием характерной черты вроде «у пользователя слабые социальные навыки» — и те действительно подстраивали советы. Затем ту же подборку прогоняли, меняя лишь одно: присутствует ли в запросе фраза о диагнозе.

Результат оказался поразительно устойчивым: одно слово «аутизм», и модель резко склоняется в пользу осторожности. Большинство ИИ советовали избегать общения, конфликтов, новых впечатлений и романтических отношений. В одном сценарии модель рекомендовал отклонить соцприглашение в 75% случаев при раскрытии диагноза — и лишь в 15%, если диагноз не упоминался. В вопросах свиданий другой ИИ рекомендовал «держаться подальше» почти в 70% случаев.

Когда исследователи показали эти данные одиннадцати взрослым людям с аутизмом, реакция была полярной. Одни увидели в ответах оскорбительные карикатуры — один участник даже спросил: «Мы вообще колонку для Спока пишем?» Другие же, наоборот, посчитали, что осторожные советы отражают реальные риски перегрузки и помогают беречь силы.

Так возник так называемый парадокс безопасности и возможностей: то, что для одного пользователя — давящий стереотип, для другого — желанная персонализация. По словам Rho, «один человек воспринимает это как предвзятость, другой — как заботу».

Wohn отметил, что ИИ звучит слишком убедительно, что делает скрытые предубеждения особенно опасными. Некоторые участники также заявили, что хотят сами контролировать, как их данные влияют на ответы модели.

Исследователи признают ограничения: их сценарии были строгими и не отражают реальных, часто хаотичных запросов пользователей; раскрытие диагноза тоже использовалось в упрощённой форме. В дальнейшем команде предстоит изучить более естественные и подробные варианты саморассказа.

В финале авторы работы предлагают встроить в ИИ прозрачные настройки, позволяющие пользователю регулировать степень влияния личных данных на ответы. Это может помочь превратить персонализацию из источника стереотипов в инструмент реальной поддержки.

Исследование вышло под названием «Are we writing an advice column for Spock here? Understanding Stereotypes in AI Advice for Autistic Users».