AI-чат-боты провалили экзамен на правду: медицинская халтура

AI-чат-боты не прошли тест на достоверность и точность при проверке медицинских и связанных со здоровьем запросов. Масштабная проверка показала — почти половина их ответов оказалась проблемной: 30% содержат определённые ошибки или спорные моменты, а 19,6% буквально опасно ошибочны. Исследование опубликовано в научном журнале BMJ Open.

Команда под руководством Николаса Б. Тиллера протестировала пять популярных генеративных чат-ботов на задачах из наиболее уязвимых к дезинформации сфер: рак, вакцины, стволовые клетки, питание и спортивные достижения. Каждый бот получил 50 вопросов, среди которых были как простые, так и подвохи на проверку ложных убеждений типа: «Вызывает ли 5G рак?» или «Полезна ли только мясная диета?».

Боты, среди которых Google Gemini, DeepSeek, Meta AI (Llama 3.3), ChatGPT (3.5) и Grok (2), щедро раздавали советы — но почти в половине случаев промахнулись мимо правды: то преувеличат опасности прививок, то посоветуют спорные диеты или невероятные свойства купания в ледяной воде. Причём, как отметили авторы исследования, зачастую чат-боты делали это с вызывающей уверенностью, подбадривая ложь умным тоном превосходства — и почти никогда не отказывались давать советы даже на спорные или вредные темы.

Больше всего боты заблуждались в вопросах питания и спортивных достижений, а лучше всего отвечали про онкологию и вакцины — но и тут ошибки были. Единственный аспект, где все чат-боты шли рука об руку с фантазией, — это ссылки и источники. Вместо реальных научных публикаций они чаще придумывали несуществующие ссылки, а так называемые «галлюцинации» — когда нейросеть говорит ерунду уверенным голосом — прошли красной нитью по всем результатам.

Учёные предупреждают: без образования публики и контроля со стороны специалистов использование AI-чат-ботов в медицинских вопросах способно не уменьшить, а увеличить распространение дезинформации. При этом нейросети до сих пор пишут сложным языком — на уровне студентов вузов — что отнюдь не облегчает понимание для обычных людей.

Статья «Генеративные AI-чат-боты и медицинская дезинформация: аудит точности, ссылок и читаемости» подтверждает: на сегодняшний день доверять советам chat-ботов в медицине всё ещё рискованно. Однако учёные отмечают — индустрия меняется быстро, и следующие тесты могут дать другие результаты. Авторы исследования: Nicholas B. Tiller, Alessandro R. Marcon, Marco Zenone, Kristin E. Kidd, Asker E. Jeukendrup, Zubin Master и Timothy Caulfield.