Люди, алгоритмы и мораль: кто кому поверит?

Новое исследование, опубликованное в журнале Computers in Human Behavior, проливает свет на то, как люди выбирают доверять искусственному интеллекту (ИИ), когда последний решает моральные задачи. Привычная картина — дружелюбный бот, который поддержит смайликом, либо бездушная машина, от которой ждешь только расчетов и логики. Но оказалось, всё не так просто: люди стремятся доверять ИИ не за "дружелюбие" или "профессионализм", а за умение подобрать стиль общения к серьезности ситуации и сделать уместный выбор между моральными крайностями.

Авторы исследования — Ляншань Чжан и Мэй Ин Чжао из университета в Шанхае — изучили, как люди воспринимают моральный разум искусственных собеседников. ИИ давно перестал быть просто чатом для болтовни: теперь его советы влияют и на лечение, и на безопасность на дорогах, и даже на национальную безопасность. Поэтому важно понять, может ли машина быть не только умной, но и казаться "этической".

Два ключевых понятия — "воспринимаемое моральное действие" (насколько ИИ способен брать на себя ответственность) и "воспринимаемая моральная эмоция" (насколько ИИ способен, хотя бы на вид, сочувствовать или заботиться). Учёные проверили, как стиль общения (теплый и дружелюбный или сухой и компетентный) сочетается с принятием моральных решений: либо во имя большинства (утилилизм — меньшее зло ради блага большего числа людей), либо по принципу "делать зло нельзя никогда" (деонтология).

В эксперименте приняли участие 447 человек из городских районов Китая (преимущественно молодёжь с высшим образованием), которые беседовали с ИИ через платформу Coze. Сначала шёл нейтральный чат про стресс и способы справиться с ним: либо "теплый" бот, использующий эмодзи и выражения поддержки, либо "компетентный", строгий и сдержанный. Потом испытуемым предлагали моральную дилемму: вариант с малой угрозой или вариант, где на кону жизнь и смерть. Бот отвечал либо в духе рационального компромисса, либо категорически отрицал любой вред.

После беседы испытуемые оценивали ИИ по шкале, где измерялись не только компетентность и доброжелательность, но и "моральная ответственность" и "моральные эмоции".

Самый неожиданный вывод: стиль общения ИИ не сам по себе, а в связке с выбранной моральной позицией влияет на доверие к нему. Человек бессознательно ждет, что эмпатичный ИИ будет выражать сочувствие, а формальный — приводить аргументы. Например, если бот жертвует одним ради спасения многих, это иногда воспринимается более "эмоционально ответственным", чем попытка избежать любого вреда. Особенно сильно меняется восприятие, когда дело касается серьезных и опасных ситуаций: вот тут людям уже хочется видеть не "улыбающегося помощника", а максимально компетентного и серьезного ИИ.

Однако, есть ограничения: на самом деле ИИ не испытывает ни ответственности, ни эмоций — речь всегда идёт о восприятии пользователя. Тесты велись в однократных текстовых чатах, с достаточно однородной и образованной аудиторией, а значит, результат может отличаться у других групп и в долгосрочном общении.

Авторы резюмируют: ключ — не в дружелюбии или человекоподобности ИИ, а в том, насколько его стиль и объяснения соответствуют тяжести моральной ситуации. Настоящее доверие — не слепое, а взвешенное и осознанное, с пониманием границ, прозрачности и ответственности. Дизайнерам будущего советуют учиться делать ботов не только "приятными", но и "адекватными ситуации".