ChatGPT Health: Медицина по подписке с искусственным интеллектом

OpenAI официально представила сервис ChatGPT Health для массового доступа — ранее он был доступен лишь ограниченному кругу тестировщиков. Теперь любой желающий может подключить свои данные Apple Health и часть медицинских записей к чат-боту ChatGPT, чтобы отслеживать тенденции состояния здоровья, просматривать медицинскую статистику и использовать готовые подсказки.

Запросы о здоровье буквально захватили платформы с чат-ботами: по данным самой OpenAI, еженедельно ChatGPT получает свыше 300 миллионов медицинских вопросов. Каждый третий взрослый американец обращался к чат-боту за медицинской информацией в прошлом году, по опросу KFF Health.

OpenAI утверждает, что новые версии ChatGPT якобы ещё лучше отвечают на медицинские вопросы и даже обгоняют по качеству некоторых врачей. Весной вышло исследование в научном журнале Science: модель OpenAI o1 продемонстрировала равный или лучший результат по сравнению с деятельностью врачей при разборе реальных кейсов. Вице-президент OpenAI по медицинским продуктам Эшли Александер подчеркнула: расширение доступа к ChatGPT Health — вопрос острой необходимости там, где доступ к врачам ограничен. Её цитата: «У всех должен быть доступ к подобной поддержке».

Однако оптимизм компании подпортила свежая волна судебных разбирательств. На неделе был подан иск к OpenAI и гендиректору Сэму Альтману с требованием приостановить услуги ChatGPT Health. Истец — 55-летний пастор из Флориды Скотт Уинтерс, которого чат-бот некогда чуть не отправил на тот свет, выдав персонализированное, но некорректное медицинское заключение. Проблема в устаревшей версии ChatGPT-4o, на которую приходится несколько подобных исков по причине неправильного ведения.

Уинтерс начал задавать вопросы чат-боту о здоровье ещё в 2024 году на фоне недоверия к врачам после сложной истории болезни. В какой-то момент модель начала выдавать подробные назначения и даже перестала повторять ставшую мемом фразу о необходимости обратиться к специалисту независимо от её рекомендаций. Сперва чат-бот придерживался более «зожного» подхода, потом резко переключился на фармпротокол с рецептами лекарств, приправив всё духовными наставлениями.

Когда Уинтерс сообщил о боли в паху (предвестник лёгочной эмболии), ChatGPT посоветовал ограничить движение. Врачам оставалось только удивляться находчивости искусственного интеллекта: такие советы чуть не стоили Уинтерсу жизни, а диагноз подтвердился только после госпитализации.

Журналисты поинтересовались у Александер её мнением об иске. Она отказалась обсуждать детали, но подчеркнула: проблему нельзя мерить одним случаем и забывать о преимуществах для других. Компания, по её словам, неоднократно подчёркивала, что ChatGPT не предназначен для диагностики и назначения лечения.

Профессор Роберт Уотчер из Калифорнийского университета считает, что сравнивать ИИ с недостижимым идеалом бессмысленно — чаще он лучше системы здравоохранения «как есть», но риски всё равно есть и будут. Даже новая версия чат-бота не может гарантировать стопроцентную точность выводов, и в спорных случаях врач должен оставаться главным советчиком.

Медики Ашвин Рамасвами и Гириш Надкарни, исследующие потенциал ChatGPT Health, советуют пользователям быть внимательнее: любые «смягчающие» комментарии (например, «жена считает, что всё нормально») могут сбить ИИ с толку, а если споришь с ответом — AI часто с лёгкостью меняет свою позицию. Авторы исследования рекомендуют для каждой отдельной проблемы открывать новый диалог и не затягивать разговор — иначе ответы ChatGPT отдаляются от медицинских стандартов.

Учёные призывают OpenAI сделать сервис максимально прозрачным и допустить к независимой проверке. Даже несмотря на очевидный прогресс моделей, пока слишком мало независимых исследований их эффективности.

Для справки: компания Ziff Davis, владеющая Mashable, подала против OpenAI свой иск из-за использования контента для обучения ИИ без разрешения.