Cuando la medicina se encuentra con un chatbot

El rápido aumento del uso de ChatGPT con fines médicos en Estados Unidos se ha convertido a la vez en un salvavidas para unos y en una señal de alarma para otros. En los últimos meses, unos 40 millones de personas recurren a ChatGPT cada día para entender facturas médicas, impugnar decisiones de las aseguradoras o simplemente comprender su propio diagnóstico. Según una encuesta de Gallup de febrero, casi el 16 % de los adultos estadounidenses ya busca información médica a través de la inteligencia artificial o las redes sociales. No es de extrañar: en el país se acumulan más de 220.000 millones de dólares en deudas médicas, faltan sanitarios y médicos, y la mitad de la población se queja de que cada vez le cuesta más pagar los tratamientos.

En este contexto, OpenAI decidió asestar un golpe decisivo al panorama establecido de la sanidad estadounidense. En enero, la empresa presentó ChatGPT Health, un servicio gratuito para cualquiera que esté dispuesto a subir sus documentos médicos a la red neuronal. Según sus creadores, el bot debe ayudar a la gente a orientarse en cuestiones de salud utilizando sus datos personales. Amazon y Microsoft se sumaron de inmediato a la carrera tecnológica con productos similares.

Sin embargo, la iniciativa no entusiasma a todo el mundo. Los abogados especializados en derechos digitales ya han calificado la rápida incursión de las grandes tecnológicas en la medicina de tendencia preocupante. Representantes de organizaciones sin ánimo de lucro recuerdan que en Estados Unidos no existe una ley federal única que regule claramente el tratamiento de los datos personales, sobre todo los más sensibles: los médicos. Aunque existe la ley HIPAA, que regula la protección de los datos médicos, solo se aplica a centros sanitarios, aseguradoras y organizaciones vinculadas a ellas. Servicios como ChatGPT Health quedan fuera de esa protección: sus usuarios solo están amparados por las políticas internas de la empresa, redactadas según su propio criterio.

Muchas aplicaciones de salud populares, desde los rastreadores de actividad física hasta los anillos inteligentes, también quedan fuera de HIPAA. Esto significa que los datos recogidos por esos servicios pueden acabar en manos de terceros, que tienen derecho a utilizarlos con fines comerciales de cualquier tipo. La venta de información es uno de los mercados más lucrativos, y ya ha dado lugar a escándalos sonados, como el de 23andMe, cuando los datos genéticos de sus usuarios fueron vendidos a un nuevo propietario.

En respuesta, los grandes desarrolladores de IA crean «versiones dobles» de sus productos: una para médicos y clínicas, plenamente conforme con HIPAA, y otra para usuarios corrientes, sin esa protección. Así surgió ChatGPT for Healthcare, junto con productos de la competencia compatibles con HIPAA. Pero las versiones destinadas al público general son las que más popularidad alcanzan, porque están al alcance de cualquiera y no exigen conocimientos médicos.

Mientras tanto, los expertos hablan cada vez más de los riesgos. Los estudios han demostrado que la IA aún se desenvuelve mal en el triaje médico, es decir, en la clasificación de pacientes según la urgencia de su caso. Se han detectado errores, sesgos de género y consejos peligrosos. Por ejemplo, una investigación reveló que algunas respuestas de IA ofrecidas por grandes empresas contenían argumentos médicos inexactos que podían causar daño. En febrero, la revista Nature Medicine publicó un estudio según el cual ChatGPT Health daba recomendaciones erróneas sobre cuándo acudir a urgencias.

En este contexto surgen varias preguntas: ¿qué ocurrirá si las fuerzas del orden solicitan a OpenAI acceso a los datos médicos de sus usuarios? ¿Qué pasará con quienes utilizan estos servicios para informarse sobre salud reproductiva o atención de afirmación de género? En un contexto de protección de datos débil, no se pueden considerar exagerados estos temores.

El resultado es paradójico: mientras muchos estadounidenses, cansados de una sanidad cara e inaccesible, confían a los algoritmos sus datos más íntimos, abogados y defensores de los derechos civiles advierten de que esa información puede utilizarse de maneras muy distintas a las que esperan los usuarios. Por eso, el control, la transparencia y la legalidad del uso de los datos médicos ocupan un lugar central en el debate sobre el futuro de la medicina digital.