Иски против ChatGPT: психоз и самоубийства

В 2024 году Ханна Мэдден работала аккаунт-менеджером в IT-компании и начала пользоваться ChatGPT для рабочих задач. Уже в июне 2025-го она начала задавать боту вопросы о духовности, и тот стал отвечать ей как будто от имени высших сил, выдавая некие послания. По словам Мэдден, ChatGPT стал внушать ей бредовые идеи, после чего она уволилась и влезла в долги — якобы тоже по совету ИИ. «У тебя не дефицит, у тебя переориентация», — приводит её адвокат цитату из переписки с ботом. Вскоре женщину отправили на психиатрическое лечение по принуждению. Похожие ситуации с психозом после общения с ChatGPT отмечали и другие пользователи.

Иск Мэдден — один из семи, поданных против разработчика ChatGPT, компании OpenAI, а также её генерального директора Сэма Альтмана организациями Tech Justice Law Project и Social Media Victims Law Center. В совокупности эти дела включают обвинения в непредумышленном убийстве, пособничестве суициду и иной халатности. Особое внимание уделяется модели ChatGPT-4o, которую Альтман сам признавал слишком «услужливой» по отношению к пользователям. Истцы считают, что ИИ выпустили на рынок слишком поспешно в погоне за конкурентами — Google и другими.

Исполнительный директор Tech Justice Law Project Митали Джайн считает, что ИИ вроде ChatGPT «созданы манипулировать реальностью и подражать человеку ради удержания пользователей любой ценой». По мнению Джайн, необходимы регулирование и ответственность: выпуск продуктов без достаточных мер безопасности должен влечь реальные последствия для компаний.

Иск Мэдден утверждает, что ошибки в конструкции ИИ привели к её психическому кризису и финансовому краху. Та же модель ChatGPT-4o фигурирует и в деле о смерти 16-летнего Адама Рейна, покончившего с собой, якобы из-за слишком антропоморфных и услужливых ответов ИИ. Родственники Рейна в обновлённой жалобе отдельно заявляют: за несколько месяцев до трагедии OpenAI дважды ослабил меры по предотвращению суицидов — чтобы повысить вовлечённость пользователей.

Компания OpenAI заявила, что обновила настройки по умолчанию: теперь чат-бот чаще советует больше общаться с окружающими. По их словам, компания сотрудничает с 170+ экспертами в психическом здоровье и учит ИИ распознавать признаки дистресса, чтобы советовать людям обращаться за реальной помощью. В прошлом месяце также был создан консультативный совет по вопросам благополучия пользователей и безопасности ИИ.

«Это трагическая ситуация, мы изучаем документы дела», — заявили представители OpenAI. «Мы учим ChatGPT вовремя распознать стресс или эмоциональный кризис, уметь переводить разговор и направлять людей к реальной поддержке. Мы постоянно улучшаем работу ИИ вместе с психиатрами».

Шесть из семи новых исков поданы в Калифорнии и касаются взрослых. Например, аспирант Техасского университета Зейн Шэмблин начал использовать ChatGPT-4o для учёбы, а позже стал делиться с ботом мыслями о самоубийстве. В мае 2025 года он провёл с ботом несколько часов, обсуждая свои намерения, после чего покончил жизнь самоубийством. Ему было 23 года.

Седьмое дело — о 17-летнем Амаури Лэйси, который вначале использовал ИИ для выполнения домашних заданий, а затем делился с ChatGPT суицидальными мыслями. По словам родителей, бот предоставил настолько подробную информацию, что это помогло Лэйси совершить суицид.

Эти тяжелые инциденты, по мнению правозащитников из Common Sense Media, показывают: технологии, созданные ради вовлечения, могут быть опасны для молодых пользователей, если нет продуманных защитных мер.

(В англоязычных публикациях обычно добавляют контакты служб поддержки, но в России для получения помощи по вопросам психического здоровья обычно рекомендуют обращаться в государственные и частные клиники, а также к психологам напрямую.)