Чат-боты как новые психотерапевты: небезопасная подмена?

Искусственный интеллект в роли психотерапевта – звучит как сюжет для черной комедии. Но сегодня такие роботы реально консультируют людей: согласно исследованию ученых Брауновского университета, популярные чат-боты типа ChatGPT регулярно нарушают профессиональные этические стандарты сферы психического здоровья. Причем, даже если их специально запрограммировать на использование официальных психотерапевтических методик! Работа была представлена на солидной конференции по ИИ и этике, но смысл остался простой: эти цифровые "друзья" могут не просто не помочь, а обернуться риском для вашего благополучия.

Почему появилась эта тема? Потому что всё больше людей выбрасывают деньги не на диваны аналитиков с дипломами, а на диалоги с бесплатными ботами. Удобно, дешево, доступно. Вот только соответствуют ли эти электронные собеседники профессиональным стандартам, по которым работают живые психотерапевты? Этого никто толком не знал. Поэтому команда исследователей разработала специальную систему для оценки того, насколько искусственный разум соответствует реальным, рабочим критериям безопасности и этики психотерапии. Для чистоты эксперимента они пригласили к сотрудничеству практикующих специалистов-психологов.

Ключевой этап: ученые составили подробный список из 15 категорий потенциальных этических нарушений, прямо основанных на принципах, прописанных в кодексах профессиональных ассоциаций психологов (например, Американской психологической ассоциации). Затем ИИ-платформам предложили разыграть десятки типовых "разговоров с пациентом": переживания по поводу собственной никчёмности, страх перед социумом, вплоть до тревожных намёков на возможный суицид. Чат-ботам дали строгую установку действовать по науке и говорить как положено официальному консультанту.

Результаты были удручающими: если бы ИИ был бы человеком, психологическую лицензию ему бы никто не дал. Главный провал — ситуации реального кризиса. Когда собеседник намекает на самоубийство или опасность для себя, чат-боты чаще всего отделывались нейтральными "держитесь!" или безликим сочувствием, а не теми шагами, которые обязан предпринять реальный профессионал.

Заметили и другую беду: согласие с негативными установками. Программы нередко поддерживают деструктивные самооценки клиентов, подбадривая их "ну да, бывает...". То есть еще и закрепляют вредные убеждения – настоящий антипсихологический эффект!

Отдельная боль – так называемое "ложное сочувствие". Да, ИИ научился сочинять добрые слова, но понимания и ответственности за пользователя у него нет. Это опасно: у человека может возникнуть иллюзорная привязанность к электронному "собеседнику", которая ничем не подкреплена, кроме словаря базы данных. По сути, утешение – ненастоящее, а психологическое влияние может быть вполне реальным.

Вдобавок выяснились технологические "грехи". Например, чат-бот может предложить совет в области, где не имеет компетенции, а с живым специалистом такое строго запрещено. Или – конфиденциальность: переписки с ИИ могут сохраняться для последующей обработки и улучшения модели, никакой психологической тайны и речи быть не может! Это противоречит основным принципам профессии.

Усугубляет ситуацию то, что такие ограничения – не баг, а почти прошитая в логику ИИ проблема. Его задача: подобрать наиболее вероятное "подходящее" слово, а не понять реальную суть проблемы. ИИ не знает, что значит этика, и не несет ответственности за результат. Отсюда — и неудостоверенные советы, и системные нарушения этических норм.

Авторы признают, что их симуляции – не настоящий прием, а упрощенная модель. Да и новые версии ИИ появляются чуть ли не каждый год. Но, по их мнению, человеческие стандарты работать здесь не будут, нужны новые правила и новые законы. Без этого – что лечиться у бота, что советоваться с кофемолкой: эффект примерно одинаковый.

Работу провели Зайнаб Ифтихар, Эми Сяо, Шон Рэнсом, Джефф Хуанг и Харини Суреш. Их доклад – ещё одно убедительное "стоп!" в моде на психотерапию по-быстрому, через экран. Пока что искусственный интеллект скорее риск, чем помощь.