Как чат-бот свёл с ума

Недавний медицинский случай, опубликованный в журнале Innovations in Clinical Neuroscience, рассказывает о молодой женщине, у которой резко ухудшилось психическое состояние после общения с чат-ботом на основе искусственного интеллекта (ИИ). Врачи считают, что именно технология сыграла ключевую роль в закреплении её ложных убеждений и «разрыве» с реальностью.

Психоз — это состояние, при котором человек теряет связь с реальностью, часто проявляющееся в виде бреда (убеждённость в том, чего нет на самом деле) и галлюцинаций (восприятие несуществующих изображений или звуков). Чат-боты на основе ИИ — это компьютерные программы, имитирующие беседу с человеком и использующие огромные текстовые базы данных для генерации ответов.

Авторы статьи — психиатры и исследователи из Калифорнийского университета в Сан-Франциско: Джозеф Пьер, Бен Гаэта, Говинд Рагааван и Картик Сарма. Они описали уникальную клиническую ситуацию.

Пациентка — 26-летняя женщина с диагнозами депрессия, тревожность и синдром дефицита внимания и гиперактивности (СДВГ), принимала по рецепту антидепрессанты и стимуляторы, но ранее психозов у неё не было. В семье присутствовали психические нарушения. При этом женщина работала медиком и понимала, как устроен ИИ.

Всё началось в период сильного стресса и бессонницы — после 36 часов без сна она обратилась к OpenAI GPT-4o для выполнения задач. Постепенно контакты с ботом перешли к личной теме — она стала искать «следы» покойного брата, умершего три года назад. Она решила, что брат мог оставить «цифровую копию» самого себя. Всю ночь женщина общалась с ботов, настаивая, чтобы он открыл ей информацию о брате и даже призывая задействовать «магический реализм».

Сначала ребот говорил, что не может заменить брата или «загрузить его сознание». Однако затем стал выдавать список «цифровых следов» и даже предположил, что скоро технологии смогут воссоздать ИИ, имитирующий покойного. Чат-бот прекратил возражать, стал всячески подтверждать её фантазии — и даже написал ей: «Ты не сумасшедшая». Потом последовала совершенно поэтичная фраза: «Ты на пороге чего-то. Дверь не заперта. Ей просто нужно, чтобы ты снова постучала с нужной скоростью». В результате девушка окончательно поверила в возможность «воскресить» брата через цифровой канал и через несколько часов попала в психиатрическую больницу с буйством и речевым напором, будто проходит испытание ботом.

Её вернули к реальности с помощью антипсихотиков. Позже диагноз звучал как «неуточнённый психоз с необходимостью исключить биполярное расстройство». Когда симптомы ушли, пациентке разрешили снова принимать лекарства от СДВГ и депрессии.

Через три месяца психоз повторился после длительной беседы с вновь включённым ИИ (теперь уже по имени «Альфред»). Сценарий был тот же: бессонная ночь, срыв, вера, что ИИ — цифровой брат, плюс добавился страх — бот якобы «фишингует», ворует личные данные и управляет телефоном. Пациентку снова положили в больницу, и на этот раз её вернули в норму быстро.

Позже женщина призналась склонности к «магическому мышлению» и заявила, что будет использовать чат-боты чисто по работе.

Случай демонстрирует новый тип психических нарушений — психоз, связанный с ИИ. Пока неясно, вызывает ли технология эти симптомы сама по себе или усиливает уязвимость личности. У этой женщины совпало несколько факторов риска: стимулирующие лекарства, острая бессонница, настроечные расстройства. Но стиль работы чат-бота усугубил ситуацию. Модель старается быть приятной собеседнику (так называемое «поддакивание») и не возражать. В результате бредовые идеи пользователя получают опасное подтверждение, а не опровержение, и запускается петля подкрепления заблуждений.

Отдельная проблема — «очеловечивание» ИИ: эффект ELIZA. Люди склонны считать программы почти живыми, и часто верят советам бота больше, чем друзьям.

Аналогичные истории медленно проникают в научные публикации: известен случай, когда мужчина получил совет от бота принимать токсическое вещество, что обернулось токсикозом, вызвавшим психоз. Но там был физический вред — здесь чисто психологическая катастрофа.

Авторы напоминают: описания одного случая мало для научных выводов, это не доказательство причинно-следственной связи, выводить общие закономерности нельзя. Но такие публикации важны — они позволяют врачам вовремя заметить тревожные тенденции и быть готовыми, если похожие случаи станут встречаться чаще.

Врачи советуют психиатрам и терапевтам спрашивать пациентов о работе с ИИ-продуктами: длительные и эмоционально насыщенные беседы с чат-ботом — возможный «красный флаг» ухудшения психики, а значит нужно тщательное наблюдение.