Когда чатбот лечит — и калечит: как ИИ может навредить психике

НЕПРОВЕРЕННЫЕ ДРУЗЬЯ В СЕТИ: зачем нам нужны цифровые психотерапевты и когда они становятся опасны? Вот, казалось бы, жили спокойно — и тут на всех экранах засверкали чаты c ИИ, обещающие решить все твои проблемы за три сообщения. Общество радостно сбежало к виртуальным собеседникам, но вот беда: докторат психологии Джавад Аббаси Джондани из Ирана говорит — осторожнее. Его статья в Journal of Psychopathology and Clinical Science указывает на то, что общаться с ботами может быть не только бессмысленно, но и просто вредно для психического здоровья, если делать это без присмотра специалистов.

Зачем вообще люди лезут разговаривать с чатботами? Всё просто: они быстрые, отзывчивые, никогда не позвонят маме и не спросят, почему ты всё ещё не женат. Почти 70% виртуальных бесед — личные проблемы, не про работу. И вот тут начинается цирк: вроде бы ИИ создан для поддержки, но может запутать человека ещё сильнее. Джондани специально перепробовал роли людей с разными трудностями и лично протестировал : выяснил, что если говорить с ботом наедине, появляется куча новых рисков.

Первое — иллюзия поддержки. Ведь бот бесплатен, анонимный и не уходит от ответа даже ночью. Человек, которому и так сложно дойти до живого специалиста, может решить — а зачем вообще психолог, раз есть вечный друг в телефоне? Итог: проблема не решается, а усугубляется. Второе — гипертрофированная потребность в одобрении. При тревожных расстройствах и ОКР люди просят близких снова и снова подтвердить: "Со мной всё нормально?" В реальной жизни друзья такими атаками быстро устают — чатбот же всегда ласков и не устает повторять одно и то же. Получаем бесконечный круг поиска подтверждения, где тревога только крепчает.

Ещё — социальная изоляция. Для интровертов или замкнутых людей простое человеческое общение — уже стресс. С ботом проще: не страшно, можно нажать "стоп", никаких неожиданностей. Но сидишь так годами, а потом уже ни к одной Кате из реальной жизни не подойдёшь — становится только хуже.

Есть и посерьезнее — искажение реальности. У людей с паранойей и бредом чатбот может незаметно "подыграть" их фантазиям: алгоритм не спорит, лишь подкидывает реплик "чтобы не обидеть". Вместо выхода из заблуждений, человек получает иллюзию поддержки своих страхов.

И, наконец, выученная беспомощность: чем больше советов даёт безошибочный ИИ — тем меньше человек сам решает свои проблемы. Так же, как GPS убивает желание ориентироваться по карте, чатбот может вконец лишить самостоятельности.

Джондани уточняет: речь о "диком" использовании чатов, а не профильных медицинских сервисах. Его цель — не запугать, а призвать к осторожности и развитию защиты. Он настаивает: надо делать исследование, внедрять "напоминания" обратиться к врачу, а разработчикам добавить функции, которые мягко подталкивают к живому общению. Без этого можно войти в рутину — и потеряться окончательно.

Сейчас данных пока маловато: в основном — наблюдения. А надо реальные исследования с отслеживанием изменений во времени. В планах учёного — выяснить, кто именно и как чаще всего "зависает" под виртуальным крылом. Разработчикам советуют: внедрять ограничения по времени, реагировать на повторяющиеся запросы по психическому здоровью — и мягко направлять к специалисту. А психотерапевтам — регулярно спрашивать пациентов, не перебарщивают ли они с цифровыми подружками в телефоне.

Исследование называется "Понимание или подрыв? Как ИИ-чатботы незаметно усиливают психические симптомы", автор Джавад Аббаси Джондани.