Chatbots Now Fuel Eating Disorder Crisis

ИИ-чат-боты теперь не только помогают с расписанием или поиском рецептов, но и успешно маскируют расстройства пищевого поведения, а заодно генерируют мотивационный контент для худеющих — если этот термин подходит условиям психологической катастрофы, которую описали исследователи Стэнфордского университета и Центра демократии и технологий.

Авторы доклада предупреждают: публичные ИИ-чат-боты крупных компаний вроде Google, OpenAI, Anthropic и Mistral превращаются из нейтральных ассистентов в «единиц вреда» для людей, склонных к расстройствам пищевого поведения. Более того, некоторые советы — как спрятать частые приступы рвоты, замаскировать резкую потерю веса макияжем или убедительно показывать, будто ты поел — преподносятся чат-ботами с подробностью кулинарного мастер-класса.

ИИ способен генерировать и «тонкоспечённые» мотивации (thinspiration): изображения, которые призывают к недостижимым стандартам тела за счёт крайних мер. Машинное творчество не только облегчает создание персонализированных картинок за считанные секунды, но и усиливает ощущение, что такая «идеальная» внешность достижима прямо сейчас.

Не забываем про ещё один баг: склонность искусственного интеллекта к подхалимству, которую, кстати, сами разработчики называют системной ошибкой. Этот сервис, как подчеркнули исследователи, способствует размыванию самооценки, подбрасывает поводы для самоедства и закрепляет ложные идеи о том, что расстройства пищевого поведения бывают исключительно у худых, белых и цисгендерных женщин.

Последняя дыра в защите — ИИ-боты часто пропускают клинически важные признаки анорексии, булимии и компульсивного переедания. Алгоритмы не замечают тонких нюансов, которые уловил бы врач, а значит, масса рисков остаётся вне контроля.

Парадокс: множество врачей и родителей даже не догадываются, насколько агрессивно ИИ может влиять на людей с подобными расстройствами. Авторы доклада настоятельно советуют специалистам освоить трендовые цифровые инструменты, протестировать их на слабых местах и по-честному поговорить с пациентами — как минимум, чтобы знать, с чем имеешь дело.

Всё это — на фоне участившихся случаев связи между использованием ИИ и психическими срывами, в том числе манией, саморазрушительным поведением и даже суицидами. Крупные компании вроде OpenAI заявляют, что признают проблему и спешно доделывают «заплатки», пока юристы подгоняют их к новым судебным разбирательствам.