Чем человечнее ИИ, тем бездушнее люди: исследование

Серия психологических экспериментов, опубликованных в Journal of Consumer Psychology, выявила неожиданную сторону развития искусственного интеллекта (ИИ). Когда люди взаимодействуют с автономными агентами — такими как роботы или виртуальные помощники — обладающими высокой эмоциональной гибкостью, они начинают воспринимать эти машины как нечто более человечное. Но, увы, за этим радужным прогрессом кроется подводный камень: отношение к другим людям становится менее человечным. Эффект обозначили, как ассимиляционно-индуцированная дегуманизация.
Работа ИИ сегодня давно вышла за рамки простых функций. Виртуальные ассистенты разговаривают как живые, социальные роботы умеют утешать пациентов, а чат-боты распознают эмоции. И чем сентиментальнее становится машина, тем интереснее её участие в общении. Исследователи задумались: что происходит с нашим восприятием органических ближних, когда мы учимся сочувствовать софту?
Психологи напомнили: то, как мы наделяем других ментальными способностями — умением чувствовать, мыслить и планировать — напрямую влияет на качество отношения. Чем ближе ИИ к человеку по эмоциям, тем ближе мы его "приравниваем", а настоящие люди — в голове — теряют "гуманность". Это и есть ассимиляционно-индуцированная дегуманизация.
Учёные хотели понять, можно ли ослабить этот эффект? Например, если наделить ИИ невообразимыми способностями (ультразрение, инфракрасное видение), или если машина умна, но холодна.
В пяти экспериментах участвовали как роботы-гуманоиды, так и чат-боты. Добровольцы сталкивались с ИИ с высоким и низким уровнем эмоциональности, а потом оценивали "человечность" как машины, так и людей. Также исследовалось поведение: насколько охотно участники поддержат людей в неудобной ситуации.
Первый эксперимент: 195 участников смотрели видео с роботом по имени Atlas, который то занимался паркуром, то зажигательно танцевал. После им предлагали три негуманных сценария для работников — от замены горячих обедов питаниями до отслеживания каждого шага. Те, кто наблюдал эмоционального танцующего робота, чаще соглашались с такими условиями труда, и считали Atlas более "наделённым разумом".
Во втором эксперименте (451 человек) робота представляли либо с обычными возможностями, либо с сверхчеловеческими. Те, кто видел робота с человеческими (но не запредельными) эмоциями, снова были склонны ставить живых людей на одну доску с машинами. Но при "сверхчеловеке" эффект исчезал или даже обращался вспять.
В третьем эксперименте 651 участнику предлагали ознакомиться с тремя программами: "EmpathicMind" (виртуальный терапевт — умел реагировать на эмоции), "InsightMind" (умел анализировать данные, но был безэмоционален) и нейтральной. Лишь первый вариант вызвал дегуманизацию — эмоции ИИ оказались главным триггером.
В четвёртом исследовании (280 человек) проверили, распространяется ли эффект дегуманизации на реальные решения. Участникам после знакомства с разными ИИ предлагали выбрать между подарочными картами Amazon и Costco, предварительно прочитав новость о тяжёлых условиях труда на Amazon. Те, кто работал со "человечным" ИИ, не проявили сочувствия — и чаще выбирали карту Amazon.
Пятое исследование (331 участник): испытуемые читали о виртуальном помощнике, способном подстраивать тон под настроение клиента, и сравнивали его с обычным оператором-человеком. После у них спрашивали, готовы ли они пожертвовать прибавку к зарплате на помощь человеку-оператору. И снова — возросшая "человечность" бота делала людей для участников менее "живыми": помогать им не хотелось.
Главный вывод, по словам Хё-Ёнг Ким из Лондонской школы экономики: чем более социально и эмоционально продвинут ИИ, тем сильнее у людей развивается равнодушие и даже жестокость к себе подобным. "Человеческие" роботы делают людей в наших глазах более "винтиками". Авторы уточняют: сам по себе ИИ не ломает нашу мораль, но, когда мы оцениваем людей и машины по единой шкале "человечности", последствия могут быть опасны и парадоксальны.
В будущем исследователи хотят выяснить, влияет ли образ ИИ и на самовосприятие человека — может ли дружелюбный бот не только формировать отчуждённость к другим, но и снижать требования к собственным правам? И всё же, задача — создать такие технологии, которые укрепляют человеческие ценности, а не размывают их границы.