Los chatbots de IA se desbocan con los diagnósticos psiquiátricos sin instrucciones
Sistemas de IA como ChatGPT se han convertido en el juguete favorito de muchos y, al mismo tiempo, en una posible herramienta para el diagnóstico psiquiátrico. Investigadores de la Universidad de California en San Francisco llevaron a cabo un estudio: compararon cómo diagnostica la inteligencia artificial a partir de descripciones de pacientes y descubrieron que, sin instrucciones profesionales estrictas, los chatbots disparan diagnósticos a diestro y siniestro.
Los investigadores contaban con 93 historias clínicas del manual DSM-5-TR, con descripciones de casos clásicos de depresión, trastorno bipolar y esquizofrenia. Probaron los modelos GPT-3.5, GPT-4 y GPT-4o en dos modalidades: o bien les daban directamente las descripciones —lo que se recomienda a la mayoría de los usuarios—, o bien les obligaban a responder una secuencia de preguntas de «sí» o «no» basada en diagramas profesionales de toma de decisiones.
El resultado: cuando la IA trabaja «a ciegas» (en modo Base, sin control paso a paso), la precisión cae en picado. GPT-4o acierta el diagnóstico en el 77 % de los casos, pero el 60 % de esos «diagnósticos» no da ni una. Es decir, vas por un insomnio leve y sales con el catálogo completo de trastornos: gracias, red neuronal. Cuando el bot sigue la lógica de los médicos, las predicciones correctas suben al 65 % y disminuyen las falsas alarmas.
Se observó que incluso con reglas estrictas todavía hay que afinar las preguntas: la IA no siempre capta la terminología y confunde términos médicos, como «abuso de sustancias» y efectos secundarios de medicamentos, o conceptos como «egodistónico».
Los autores reconocen con franqueza que la medicina real y la tarea de «adivinar el diagnóstico a partir de un relato» se parecen tanto como el ajedrez y las damas. Por eso, los chatbots de moda todavía no sirven para que uno se autodiagnostique: solo bajo supervisión profesional y tras entrenarlos con datos reales.
La conclusión principal es que la inteligencia artificial puede ayudar a los médicos, pero solo si se mueve dentro de límites médicos claros. Sin esas restricciones, repartirá diagnósticos psiquiátricos como si fueran objetivos corporativos: para alegría de todos, menos de los pacientes.
PEREC.RU
La IA en psiquiatría suena a comedia negra sobre un médico digital itinerante. Unos investigadores de San Francisco quisieron averiguar qué escupe una red neuronal si no la atan en corto con instrucciones médicas. El resultado no sorprende: GPT-4o diagnostica con aplomo, pero se equivoca casi una de cada dos veces. ¿Te encuentras mal? Toma, un diagnóstico de regalo y un cupón para la neurosis. Sin reparos profesionales, los chatbots reparten etiquetas a granel.
Cuando se somete a la IA a estrictos «árboles de decisión» —como en una entrevista con un psiquiatra aburrido—, la precisión aumenta y los tropiezos disminuyen. Pero ¿está preparado el diagnóstico digital para la realidad? Como admiten los propios autores, las pruebas se hicieron en condiciones, por decirlo suavemente, muy controladas. Las historias clínicas no son personas de carne y hueso. En la vida real, es mucho más probable acabar con el «manicomio en una aplicación».
Lo más gracioso es que, en el fondo, estos experimentos no van de medicina, sino de la ilusión de control. Como si bastara con ponerle una chaqueta de profesor a la IA para que dejara de ser un algoritmo de adivinación. De momento, lo único que nos salva es el sentido común de toda la vida: el diagnóstico sigue siendo cosa del médico, no de un chatbot arrogante y obsesionado con las estadísticas.
