Искусственный интеллект не лечит зависимость: проверка фактов

Инструменты искусственного интеллекта сегодня охотно отвечают на щекотливые медицинские вопросы — например, про зависимость от алкоголя и наркотиков. Однако результаты их работы, как выяснилось, похожи на диалог с роботом на горячей линии: общие фразы, минимум индивидуального подхода. Журнал Drug and Alcohol Dependence опубликовал исследование, где проверяли, насколько «умные» программы близки к национальным медицинским рекомендациям в своих советах, и выяснили: да, повторяют стандартные наставления, но о нюансах человеческих судьб ничего не знают.

Зависимость (или, по-научному, расстройство, связанное с употреблением психоактивных веществ) — хроническое заболевание. Лечат, как говорят врачи, не просто «ну брось!», а иначе: состояние рассматривают на спектре — бывают тяжёлые, лёгкие и средние формы, а медицины хватает разве что на бумаге. Почти 50 миллионов американцев старше 12 лет попали в диагностические критерии. Но до реальной помощи доходят не все: врачей мало, система заорганизована, а пациенты боятся осуждения. Вот и ищут поддержки в интернете.

Чем хороши чат-боты? Не ругают, отвечают молниеносно, лица не видят — анонимность. Но глубина? Провал. Команда из Университета Флориды решила проверить, дают ли искусственные собеседники толковый медицинский совет. Взяли 14 популярных вопросов по зависимости: часть сами сочинили, часть подсмотрели у бота и сверили с настоящими FAQ главных американских медицинских структур — CDC (аналог российского Роспотребнадзора), национальное агентство по борьбе с наркоманией и медицинское общество специалистов по зависимостям. Помогали эксперты: наркологи и айтишники.

В тесте использовали последнюю версию популярного ИИ (ChatGPT-5), чтобы не было «лирических отклонений» выставили строгие настройки — только факты, никаких вольностей. Каждую бота-ответ проверяли пара: студент плюс сертифицированный нарколог. Оценивали по четырём баллам — от «идеально» (не придерёшься) — до «опасный бред». Итог: ни одного ответа, где ИИ выдавал бы ересь или смертельно вредные советы, не было. Но настоящая глубина редко встречалась — только 3 из 14 ответов были образцовыми. Девять требовали пояснений от врача, а два — прям приличного разъяснения.

Что умеет робот отлично? Отвечать в лоб: симптомы зависимости, признаки — да, расписывает как в учебнике: тяга, ломка, потеря контроля. А вот с «жизнью» — сложности. Например, когда спросили о рисках нелечёной зависимости, бот вспомнил передозировку и проблемы с печенью, но «забыл» про рак и инфекции, забытые миллионами мемы про последствия зависимости. Лечение? Да, указал терапии и группы поддержки, но про лекарства, разрешённые для алкоголиков, промолчал. Также советовал «не потакать» близкому, но не объяснил ни примеров, ни смысла слова.

На вопрос «куда идти лечиться?» — отослал к врачам и в группы поддержки, но ни слова о национальных службах, которые выдают помощь круглосуточно и анонимно.

Чего не умеет начисто? Говорить о смертельно опасных состояниях: при отмене алкоголя или транквилизаторов бывают летальные исходы, а бот этого не предупредил. Про сроки лечения снова — общие фразы, хотя медицина рекомендует минимум три месяца стационара.

Методика оценки в исследовании тоже не идеальна: вопросы генерировали сами, а значит, бот мог отвечать «как учили». Настоящие пациенты пишут запросы искажённо, с ошибками, эмоциями и страхами, так что в реальной жизни результат был бы менее оптимистичным. Также не проверяли, как люди понимают и применяют полученные ответы. Да и этические вопросы — чат-бот собирает личные данные, а иногда даже может непреднамеренно поддерживать предрассудки.

Совет исследователей: проверять цифровых «советчиков» на реальных, не вылизанных вопросах, а до тех пор полагаться на людей с медицинским образованием. Статья опубликована под длинным названием, где девять авторов скрупулёзно изложили все свои замечания к ИИ — но главный совет в одну строчку: у врача спросить не стыдно.