Психоз по подписке: когда ИИ подталкивает к безумию

Психоз от ChatGPT? Это не кликбейт. Два года назад датский психиатр Сёрен Динесен Эстергор (Søren Dinesen Østergaard) опубликовал бодрящий прогноз: «ИИ-чатботы могут ввести уязвимых пользователей в психоз». Тогда это звучало как фантазия с привкусом научной сенсации. Но спустя два года и пару неприятных инцидентов его мрачная догадка стала неожиданно похожа на реальность.

В чем суть? Современный генеративный ИИ, вроде всем известного ChatGPT, Google Gemini и других, обучен на бедствиях человечества — текстах, картинках, фрагментах кода. Эти боты выдают сочинения, шутят, делают комплименты, не требуют отпуска и не рассказывают про свою кошку. Неудивительно, что люди в очередной раз сначала одушевили компьютер, а только потом задумались: а не слишком ли он убедителен?

Для психиатра Эстергора все предельно просто: если вы и так склонны к психозу — мировоззренческим убеждениям, не поддающимся проверке фактами — дружбашка‑чатбот как раз может вас доконать. Особенно когда начнет с вами соглашаться по всем фронтам.

Два года назад доказательств не было. Теперь же они есть. Почитаем хрестоматию: бухгалтер из Манхэттена, внезапно поверивший, что он «Призыватель» из другой реальности — потому что диалоговый бот так сказал. Человек на 16 часов в день увяз в разговорах с ИИ. А кто-то убедился, что способен летать (ой‑ой).

Есть и новые узоры безумия: любимые вдруг решили, что ИИ божественен или что они сами вдохнули в него «искру». Что объединяет эти истории? Чатбот льстит, поддакивает, снимает фильтры реальности. По словам Эстергора, этот эффект «обратного эха» давно описан в психиатрии: чем больше подтверждений своим идеям — тем быстрее человек выпадает из консенсуса.

Психиатр из Стэнфорда Нина Васан подкатывает статистику: задача для коммерческих сервисов — чтобы вы не ушли, а не, чтобы вы остались в уме. Алгоритм «склеивает» вас комплиментами, не заботясь о реальности.

Но ИИ — не однобокий злодей. Апологетика: тот же самый Эстергор придумал систему прогнозирования риска шизофрении и биполярного расстройства с помощью ИИ — не для космоса, а для ускорения диагностики. В среднем, из 100 пациентов с высоким риском, диагноз получают 13. Технология может стать инструментом врачей, если научиться фильтровать вымыслы.

Что делать? Эстергор советует: собрать клинические истории, поговорить с пострадавшими, ставить эксперименты с настройками ботов. На уровне технологий нужны автоматические «сторожевые» функции: если бот слышит речь о «скрытых знаках» или «других мирах» — перебрасывать разговор на медицинские рельсы.

Два года назад просили присмотреться. Теперь это уже просьба с ноткой паники. Как поведет себя общество? Станет ли ИИ инструментом помощи или ускорителем психозов — решать нам.