Мнимый человек против железного друга: как люди выбирают советчика по финансам

Новое исследование, опубликованное в журнале Computers in Human Behavior, разоблачает нелицеприятную правду: большинство людей гораздо охотнее слушают финансовые советы от партнёра по отношениям, чем от искусственного интеллекта (ИИ). Ученые обнаружили, что причина этого кроется в эмоциональной связи и ощущении заботы, которое партнер транслирует — а вот ИИ таким талантом похвастаться не может. Однако исследование также показало, что если дать ИИ человеческое имя или представить его как помощника живому советчику, доверие к нему ощутимо возрастает.

Исследование провели Эрик Херманн из Европейского университета Виадрины и Макс Альберхацки из Калифорнийского государственного университета в Лонг-Бич. Их интересовала зона пересечения финансовых технологий и близких отношений.

Сейчас финансовые робо-советники — обычная часть инвестирования: алгоритмы советуют, куда вложить деньги. Вот только жизненно важные финансовые решения люди зачастую принимают с любимыми под боком. Как отмечают исследователи, предыдущие работы изучали доверие к ИИ на обезличенных заданиях, но мало кто сравнивал, как выглядит битва за доверие — между роботом и живым партнером, когда речь идет о деньгах.

Херманн пояснил: хотя умные устройства и ИИ уже сидят в наших домах (от смарт-колонок до голосовых помощников типа Alexa), обычно изучают реакцию отдельных персон. А в больших решениях — вроде финансовых — очень интересно, кого выберет человек, если совет даёт избранник или искусственный разум.

Учёные предположили, что доверие не монолит, а состоит из двух разных компонентов. Первый тип — когнитивное доверие: уверен ли человек в компетенции и навыках советчика. Второй — аффективное доверие: есть ли ощущение, что советчик по-человечески заботится о тебе и твоих интересах. Вопрос был: какая разновидность доверия влияет сильнее?

В первом эксперименте учёные собрали 301 участника, все состояли в романтических отношениях. Испытуемого ставили в ситуацию: вы получили в наследство 10 тысяч долларов и выбираете между двумя инвестиционными фондами — рискованным с высокой прибыльностью и спокойным, но скромным по доходности. Получив первоначальный совет, участник получал рекомендацию сменить фонд — эта рекомендация исходила либо от ИИ, либо от романтического партнёра. И тут фиксировали, готов ли человек послушать совет. Также измеряли уровень обоих видов доверия.

Результаты не утешили роботов: люди слушали советов любимых гораздо охотнее, чем бездушной программы. Было подтверждено, что решение было связано и с когнитивным, и с аффективным доверием, но второй фактор играл куда важнее. Эмоциональная поддержка бьёт логику машин.

Во втором опыте (298 участников) решили проверить — а что если ИИ будет звучать чуть человечнее? Это называется очеловечивание ИИ, или антропоморфизм. Треть участников совет получала от партнёра, другая треть — от стандартного ИИ, а еще треть — от ИИ по имени «Алекс». Оказалось, что просто имя ИИ резко меняет отношение к нему: «Алекса» слушали так же охотно, как и партнёра, оба варианта обогнали обезличенного робота. Снова победило аффективное доверие.

Далее, в эксперименте 3A (445 добровольцев) учёные ввели «гибридный» вариант: совет от любимого появился благодаря подсказке ИИ. Люди доверяли совету так же, как если бы ИИ и не стоял за спиной. Главное, что остался человеческий посредник — эмоциональная связь не пострадала, а значит, и уровень доверия тоже.

Эксперимент 3B — уже почти с настоящими финансовыми продуктами (376 человек): предлагали реальные инвестфонды Fidelity. Результаты не изменились — люди больше доверяют партнёру и «гибриду», чем одиночному ИИ. Аффективное доверие вновь оказалось самым важным.

Херманн уточняет — феномен неприятия ИИ в таких вопросах устойчив, доказан на четырёх экспериментах, хоть все ситуации и учебные. Авторы предупреждают: очеловечивание ИИ — палка о двух концах. Да, доверие растёт, но можно легко получить «слепую веру» в ошибочную систему.

Дизайн ИИ, считают учёные, должен не просто вызывать доверие, а помогать человеку реально соизмерять риски и преимущества (это они называют «калиброванным» доверием). Иначе — передоз доверия чреват потерями денег, неверными решениями и слепым подчинением алгоритму.

Что дальше? Нужно изучать — изменится ли со временем уровень доверия к ИИ, когда у пользователя реально вложены деньги, и будет ли всё так же, если речь не про банки, а, например, лечение или покупку жилья. На сегодняшний день ясно одно: сколько бы ни обещал ИИ, без человеческого тепла он так и останется просто программой.