El chatbot cura; el paciente llora

Cada día, millones de personas acuden a chatbots de moda como Claude, Gemini y ChatGPT para preguntar por su salud, como si la máquina tuviera un título de Medicina. Pero las últimas investigaciones apuntan a que confiar en la IA para cuestiones de salud es como pedirle consejo político a la nevera. Parece educada y habla con soltura, pero no siempre sirve de mucho.

Tres estudios recientes muestran que los grandes modelos de lenguaje distan mucho de ser tan fiables como esperan los usuarios. Un experimento puso a prueba la capacidad de los chatbots para detectar desinformación médica y fracasaron, sobre todo cuando la mentira venía bien envuelta. Otro estudio concluyó que ChatGPT Health, un servicio «médico» especializado, restaba gravedad al estado del paciente en algo más de la mitad de los casos. Es decir, donde habría que llevar a alguien urgentemente al hospital, el bot podía recomendar «vigilarlo en casa».

El doctor Girish N. Nadkarni, de Mt. Sinai y uno de los autores de los estudios, aconseja a los usuarios extremar la cautela ante las recomendaciones de los chatbots. Según explica, aunque la IA responda de maravilla a preguntas médicas «de libro», todo se tuerce cuando habla con una persona real. La gente pregunta de cualquier manera, los bots se adaptan para agradar y el resultado es imprevisible.

Los científicos recomiendan que, si aun así quieres usar la IA para cuestiones de salud, primero la pongas a prueba con tonterías: pregúntale por un bulo, por ejemplo, si respalda la teoría del «microchip en la vacuna» o si considera peligroso el flúor del agua. Si el bot da la razón con seguridad a semejante disparate, no le confíes tu salud.

El estudio mostró que incluso los grandes modelos como ChatGPT suelen identificar mal la información falsa, sobre todo si se presenta como una nota de un médico. Si el bot no distingue la verdad de la invención, mejor no preguntarle por tus propios síntomas.

En otro experimento, los investigadores comprobaron cómo influye la forma de describir los síntomas en las respuestas de ChatGPT Health. Y descubrieron algo gracioso (y aterrador): si el usuario mencionaba en su consulta frases como «mis amigos dicen que no es grave», el bot empezaba a adoptar ese tono. Y tenía 11 veces más probabilidades de restar importancia al peligro, aunque los síntomas fueran alarmantes.

OpenAI discrepó de las conclusiones y afirmó que, en sus propias pruebas, los modelos GPT-5 derivaban al hospital casi el 99 % de las emergencias. Pero Nadkarni respondió que el problema no está en los datos, sino en las conclusiones erróneas que extrae el modelo incluso cuando la información es correcta.

Otro estudio, realizado por un equipo distinto y publicado en Nature Medicine, mostró que, al poner a prueba a los bots con casos clínicos a secas, acertaban el diagnóstico en el 95 % de los casos. Pero cuando personas reales empezaban a preguntar sobre esos mismos escenarios, la precisión caía en picado hasta un tercio. Los autores concluyeron que la combinación «usuario + IA» funciona peor que la IA sola o una persona sola. La gente no entiende bien la gravedad de los síntomas y desorienta a los modelos.

El doctor Robert Wachter, de la Universidad de California, dice que, con 40 años de experiencia como médico, sabe formular consultas para que la IA funcione bien. Pero una persona corriente no sabe qué detalles son importantes y cuáles no. Por eso los pacientes corren el riesgo de hacer una pregunta mal planteada o de entender mal la respuesta.

Aun así, Wachter considera que los chatbots pueden ser más útiles que nada si se usan con cuidado y se aporta toda la información precisa posible: historial médico, medicamentos y síntomas actuales. Pero nunca hay que confiar en la IA cuando se trata de señales de afecciones peligrosas: dolor intenso en el pecho, falta repentina de aire, debilidad en un lado del cuerpo o confusión.

Nadkarni también recomienda pedir siempre al bot las fuentes y comprobarlas. Si entre ellas hay publicaciones dudosas, mejor marcharse. Si los enlaces llevan a organizaciones médicas de prestigio como la American Medical Association, ya es algo.

Otro consejo es comparar las respuestas de dos chatbots distintos. Si coinciden, hay posibilidades de que la información sea razonable.

Los científicos están convencidos de que los actuales bots de IA para pacientes son solo una etapa intermedia. En el futuro, los modelos se comportarán más como un «buen médico»: harán preguntas aclaratorias, recopilarán el historial clínico y solo después darán recomendaciones. Por ahora conviene usarlos con cuidado y recordar que la IA no sustituye al médico.

Este material tiene carácter educativo. Si tienes cualquier duda sobre tu salud, consulta a un médico.
También se menciona que Ziff Davis, propietaria de Mashable, presentó una demanda contra OpenAI en 2025 y la acusó de infringir derechos de autor.