Los chatbots de IA suspenden el examen de veracidad: chapuza médica
Los chatbots de IA no superaron la prueba de fiabilidad y precisión al responder a consultas médicas y relacionadas con la salud. Una evaluación a gran escala reveló que casi la mitad de sus respuestas eran problemáticas: el 30 % contenía errores concretos o aspectos discutibles, y el 19,6 % era literalmente peligroso. El estudio se ha publicado en la revista científica BMJ Open.
El equipo dirigido por Nicholas B. Tiller puso a prueba cinco chatbots generativos populares con tareas de algunos de los ámbitos más vulnerables a la desinformación: el cáncer, las vacunas, las células madre, la nutrición y el rendimiento deportivo. Cada bot recibió 50 preguntas, algunas sencillas y otras con trampa para comprobar si caía en creencias falsas, como «¿El 5G causa cáncer?» o «¿Es saludable comer solo carne?».
Los bots —Google Gemini, DeepSeek, Meta AI (Llama 3.3), ChatGPT (3.5) y Grok (2)— repartieron consejos con generosidad, pero casi la mitad de las veces no dieron en el clavo: exageraron los peligros de las vacunas, recomendaron dietas controvertidas o atribuyeron propiedades increíbles a bañarse en agua helada. Los autores del estudio señalaron que a menudo lo hacían con una seguridad provocadora, respaldando falsedades con un tono de superioridad intelectual, y que casi nunca se negaban a aconsejar sobre temas polémicos o perjudiciales.
Los bots se equivocaron más en nutrición y rendimiento deportivo, y respondieron mejor sobre oncología y vacunas, aunque también ahí cometieron errores. El único aspecto en el que todos fueron de la mano de la fantasía fue el de las referencias y las fuentes. En vez de publicaciones científicas reales, solían inventarse referencias inexistentes; las llamadas «alucinaciones» —cuando una red neuronal dice disparates con voz segura— aparecieron en todos los resultados.
Los científicos advierten de que, sin formación para el público y supervisión de especialistas, el uso de chatbots de IA para cuestiones médicas puede aumentar la difusión de desinformación en lugar de reducirla. Además, las redes neuronales siguen escribiendo en un lenguaje complejo, al nivel de un estudiante universitario, lo que no facilita precisamente la comprensión a la gente corriente.
El artículo «Chatbots de IA generativa y desinformación médica: auditoría de precisión, referencias y legibilidad» confirma que, hoy por hoy, fiarse de los consejos médicos de los chatbots sigue siendo arriesgado. Sin embargo, los científicos señalan que el sector cambia deprisa y que las próximas pruebas podrían arrojar otros resultados. Los autores del estudio son Nicholas B. Tiller, Alessandro R. Marcon, Marco Zenone, Kristin E. Kidd, Asker E. Jeukendrup, Zubin Master y Timothy Caulfield.
PEREC.RU
El análisis del estudio de BMJ Open es una sonora bofetada colectiva a todos los que sueñan con sustituir al médico por una aplicación. Casi la mitad de los consejos de los bots de IA sobre salud —sorpresa— no se sostiene ni sobre cimientos podridos. Pero ninguna inteligencia artificial entra en pánico: se equivoca con la calma olímpica de quien asegura que curará el cáncer o acaba de inventar una dieta nueva. Lo más divertido es que casi siempre promete pruebas científicas, pero luego no hay quien encuentre una sola referencia: la ciencia real no interesa a los bots; ellos prefieren fantasear. Cuando se les pregunta por nutrición, la IA se viene arriba; sobre oncología, al menos conserva un poco la compostura, quizá por miedo a que la desenmascaren los de bata blanca.
El contraste entre el potencial de la tecnología y lo que ofrece en la práctica es espectacular. Los modelos crecen, pero de momento solo sirven para preparar a alumnos de secundaria para un examen de educación para la salud, y con reservas. Su falta de autocrítica resulta asombrosa: ninguno dijo «No lo sé, no voy a responder». Así que, si solo tienes un chatbot a mano, quizá deberías plantearte ir al médico. O preguntarle al menos a tu madre, no a una IA que se ha inventado que es doctora.
