Люди больше доверяют советам медсестёр, чем искусственному интеллекту, но интуитивность рекомендаций важнее всего

Новое исследование, опубликованное в Journal of Medical Internet Research, выяснило: большинство людей всё ещё считает советы человеческих медсестёр надёжнее, чем рекомендации искусственного интеллекта. Но, как неожиданно оказалось, на доверие зря нажимают не столько источник, сколько то, насколько логичным кажется совет. Люди, как выяснилось, применяют схожие приемы оценки, независимо от того, кто сообщает информацию: человек или машина. Главное — совпадает ли совет с личной интуицией.

Системы искусственного интеллекта — те самые, что на каждом шагу, — уже прочно заняли место среди помощников по вопросам здоровья. Сервисы вроде ChatGPT ежедневно отвечают миллионам пользователей на вопросы о самочувствии и лечении. Однако важный нюанс: это не врачи с лицензией, но и не анонимные тексты из интернета. Новое положение — статус "почти советчика".

Затеял исследование соавтор, профессор из Университета штата Аризона Ашли Лэндрум — из-за простого эпизода: ела дома чипсы Doritos и царапнула пищевод. В панике задала вопрос не врачу, а уже открытому ChatGPT: опасно ли это? Получила развёрнутую инструкцию: выпить воды, есть мягкую пищу и обратиться к врачу при серьёзных симптомах. Это и подтолкнуло учёных узнать, много ли людей полагается на такие советы от AI.

В эксперименте участвовали 1502 взрослых американца с разными биографиями, максимально приближёнными к среднестатистическим жителям США. Им предлагали оценить советы по двум сценариям: связанным с рисками низкого уровня (например, стоит ли есть яйца при снижении холестерина) и высокого (обращаться ли в больницу при боли в груди). Всем случайным образом подсовывали либо человеческую медсестру, либо специализированного AI, либо всем известный ChatGPT. Причём советы специально делали логичными ("интуитивными") или неожиданными ("контринтуитивными"), но всегда медицински верными.

Участникам нужно было поставить оценку совету от 1 до 5 по шкале доверия. Самым авторитетным снова вышел человек: советы медсестры — 3.53, AI — 3.13, ChatGPT — 3.21. Готовность следовать рекомендациям также была выше у человеческого источника. Интуитивные советы получали среднее доверие 3.46, а неинтуитивные — только 3.12. Когда исход дела действительно важен (например, здоровье сердца), доверие к неожиданным советам ещё сильнее падало.

Интересно: если дело касалось спорной темы (например, заморозка яйцеклеток), советы "с консервативным уклоном" казались участникам менее достоверными и не вызывали желания следовать им — независимо от того, исходили они от человека или AI.

Особого доверия к "AI nurse" не возникло — лейбл не помог, доверие к ChatGPT и специализированному ИИ осталось примерно одинаковым. Для разработчиков вывод ясен: людям важна не только форма, но и содержание, а когда рекомендации идут вразрез с ожиданиями — мало просто дать совет, нужно объяснить саму логику и причины.

Учёные также заметили, что скептики медицины сильнее доверяли AI, а привычные пациенты — больше медсёстрам. Есть нюанс: сценарии были гипотетическими, без настоящих переживаний и эмоций, а участники получали готовые сообщения, не вступая в настоящую переписку с AI. В жизни ситуация может быть иной — об этом сами исследователи честно напоминают.

Статья называется “Trusting Generative AI for Health Advice: Preregistered Survey Experiment”, авторы: Ашли Лэндрум, Нитин Верма и Аманда Керберг.