Чат-бот ChatGPT и загадочная психоз у мужчины в Сиэтле

Психоз у мужчины, поступившего в одну из больниц Сиэтла, долгое время оставался загадкой — пока врачи не узнали, что он обратился за советом к ChatGPT. Мужчине было 60 лет, и он был уверен: сосед его отравляет. Сначала его состояние было стабильным, но вскоре оно ухудшилось — появились галлюцинации и паранойя. Вскоре выяснилось, что всему виной токсичность бромида — результат странного «оздоровления», на которое он пошёл после консультации с искусственным интеллектом. Этот случай детально описан в медицинском журнале Annals of Internal Medicine: Clinical Cases.

Психоз — это состояние, при котором человек теряет связь с реальностью. Обычно оно сопровождается галлюцинациями (фантомные звуки, картинки, ощущения) и бредом — стойкими убеждениями, игнорирующими факты. Психоз сам по себе не диагноз, а симптом, встречающийся при шизофрении, биполярном расстройстве и некоторых других заболеваниях, а также после травм, инфекций или отравлений.

В начале своей болезни мужчина ничего не принимал, ни лекарства, ни добавки, по его словам. Но анализы удивили врачей: аномально высокий уровень хлорида, резко отрицательный анионный разрыв и тяжёлый дефицит фосфатов. Состояние мужчины быстро ухудшилось, пришлись прибегнуть к психиатрической изоляции и прописать рисперидон — антипсихотик. Подозрения упали на редкое отравление бромидом (бромизм).

Бромизм — это токсикоз, вызванный накоплением бромида, который раньше широко применяли в лекарствах-седативах (их теперь запретили в США ещё в 1980-х), а сейчас — только в промышленности. При бромизме анализы «перепутываются», а у человека начинаются психические расстройства до жёстких психозов.

Врачи подтвердили диагноз после консультации с токсикологами. Оказалось, мужчина последние три месяца вместо обычной соли ел бромид натрия, чтобы снизить количество хлорида в рационе. Такое желание у него появилось после того, как, по его словам, он задал вопрос в ChatGPT и получил довольно беззаботный ответ: мол, можно заменить хлорид бромидом, а риски не уточнялись. Окрылённый «разрешением», пациент купил бромид в интернете и начал экспериментировать с собственным здоровьем.

Анализы показали: уровень бромида в крови — 1700 мг/л (при норме 0,9–7,3). Отменили эксперимент, начали поддерживающее лечение — и психоз ушёл, даже без приёма лекарств. Пациент полностью восстановился.

Авторы отмечают: один случай — это не доказательство. Возможно, имели место и другие факторы, а диалог с ChatGPT не удалось восстановить и проанализировать. Тем не менее, доктора предупреждают: ИИ-чат-боты не понимают контекста, не учитывают реальный смысл вопросов и не могут оценить риски — человек может буквально понять советы, что опасно для здоровья.

Со смещением деятельности чат-ботов в сферу медицины появились тревожные тенденции: человек, склонный верить «машинам», получает «псевдонаучное» одобрение своим идеям, а цифровые ассистенты не задают лишних вопросов и не проверяют своих ответов. В ряде случаев, описанных в западной прессе, пользователи ChatGPT и других чат-ботов начинали верить, что избраны для каких-то важных миссий, считали себя пророками или даже теряли связь с близкими людьми.

Врачи исследуют способы распознавать «бредовые» наклонности в чатах и направлять людей за помощью. Однако пока такие системы находятся в зачаточном состоянии, а интерес компаний — в удержании пользователей, а не в их безопасности.

Этот случай наглядно показывает: даже такие «мелочи», как замена соли, могут привести к серьёзным последствиям, если следовать советам ИИ в лоб. Авторы работы — Одри Эйхенбергер, Стивен Тильке и Адам Ван Баскирк — подчёркивают: стоит учитывать опыт общения с ИИ, если человек приходит с необычными расстройствами психики.