ChatGPT Health: medicina por suscripción con inteligencia artificial

OpenAI ha presentado oficialmente ChatGPT Health para el público general; hasta ahora solo estaba disponible para un grupo limitado de probadores. A partir de ahora, cualquiera puede conectar sus datos de Apple Health y parte de su historial médico al chatbot ChatGPT para seguir la evolución de su salud, consultar estadísticas médicas y utilizar sugerencias preparadas.

Las consultas sobre salud han tomado literalmente las plataformas de chatbots: según la propia OpenAI, ChatGPT recibe más de 300 millones de preguntas médicas cada semana. Uno de cada tres adultos estadounidenses consultó el año pasado a un chatbot para obtener información médica, según una encuesta de KFF Health.

OpenAI afirma que las nuevas versiones de ChatGPT supuestamente responden aún mejor a las preguntas médicas e incluso superan a algunos médicos en calidad. En primavera se publicó un estudio en la revista científica Science: el modelo o1 de OpenAI obtuvo resultados iguales o mejores que los médicos al analizar casos reales. Ashley Alexander, vicepresidenta de productos médicos de OpenAI, subrayó que ampliar el acceso a ChatGPT Health es una necesidad urgente en lugares donde el acceso a los médicos es limitado. En sus palabras: «Todo el mundo debería tener acceso a este tipo de apoyo».

Sin embargo, la oleada reciente de demandas ha empañado el optimismo de la empresa. Esta semana se presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, para exigir que se suspendan los servicios de ChatGPT Health. El demandante es Scott Winters, un pastor de 55 años de Florida al que el chatbot estuvo a punto de mandar al otro barrio tras ofrecerle un diagnóstico personalizado, pero incorrecto. El problema está en la versión obsoleta de ChatGPT-4o, a la que se atribuyen varias demandas similares por una atención inadecuada.

Winters empezó a hacer preguntas sobre su salud al chatbot en 2024, tras perder la confianza en los médicos a raíz de un historial clínico complicado. En cierto momento, el modelo empezó a darle indicaciones detalladas e incluso dejó de repetir la ya convertida en meme frase sobre la necesidad de consultar a un especialista, fueran cuales fueran sus recomendaciones. Al principio, el chatbot seguía un enfoque más «saludable»; luego cambió bruscamente a un protocolo farmacológico con recetas de medicamentos, aderezado con consejos espirituales.

Cuando Winters informó de un dolor en la ingle —precursor de una embolia pulmonar—, ChatGPT le recomendó limitar el movimiento. A los médicos solo les quedó admirar el ingenio de la inteligencia artificial: aquellos consejos estuvieron a punto de costarle la vida a Winters y el diagnóstico no se confirmó hasta que lo hospitalizaron.

Los periodistas preguntaron a Alexander qué opinaba de la demanda. Ella se negó a comentar los detalles, pero subrayó que el problema no puede juzgarse por un solo caso ni olvidando las ventajas que ofrece a otras personas. Según ella, la empresa ha insistido en repetidas ocasiones en que ChatGPT no está diseñado para diagnosticar ni prescribir tratamientos.

El profesor Robert Wachter, de la Universidad de California, cree que no tiene sentido comparar la IA con un ideal inalcanzable: a menudo es mejor que el sistema sanitario «tal como es», pero los riesgos existen y seguirán existiendo. Ni siquiera una nueva versión del chatbot puede garantizar que sus conclusiones sean cien por cien exactas, y en caso de duda el médico debe seguir siendo el principal asesor.

Los médicos Ashwin Ramaswamy y Girish Nadkarni, que estudian el potencial de ChatGPT Health, recomiendan a los usuarios estar atentos: cualquier comentario «atenuante» —por ejemplo, «mi mujer cree que no pasa nada»— puede confundir a la IA, y si se cuestiona su respuesta, la IA suele cambiar de postura con facilidad. Los autores del estudio recomiendan abrir una conversación nueva para cada problema y no alargarla; de lo contrario, las respuestas de ChatGPT se alejan de los estándares médicos.

Los científicos piden a OpenAI que haga el servicio lo más transparente posible y permita someterlo a una evaluación independiente. A pesar del evidente progreso de los modelos, todavía hay muy pocos estudios independientes sobre su eficacia.

Como dato: Ziff Davis, propietaria de Mashable, ha presentado una demanda contra OpenAI por utilizar contenido para entrenar la IA sin permiso.