El nuevo bot médico de Amazon, en el que es mejor no confiar
Amazon ha presentado su propio chatbot de inteligencia artificial para la salud y, como suele ocurrir, cuanto mayores son las promesas, más evidente resulta la distancia con la realidad. Oficialmente, el sistema debe ayudar a la gente a orientarse entre información sobre síntomas, medicamentos y recomendaciones de estilo de vida. Pero cuanto más se examina, menos apetece confiarle al servicio los datos más personales de una persona: su información médica.
En teoría, el chatbot está entrenado con datos médicos y debe ofrecer consejos basados en recomendaciones aceptadas. Sin embargo, expertos independientes que han estudiado el funcionamiento del sistema descubrieron que puede producir conclusiones que parecen seguras, pero no resisten una revisión profesional. Es decir, el modelo puede «alucinar»: inventar síntomas, relaciones entre ellos e incluso explicaciones médicas falsas.
La seguridad de los datos es otra cuestión. Amazon asegura que la privacidad está protegida y que la información personal no sale de un entorno seguro. Pero esta empresa ya se ha visto envuelta en más de una historia incómoda por el almacenamiento y el tratamiento de datos de los usuarios. Dada la sensibilidad de la información médica, los expertos proponen pensárselo diez veces antes de confiarle al servicio datos sobre la propia salud.
El riesgo de recibir recomendaciones incorrectas es otro motivo para desconfiar. El modelo no es un médico colegiado y no puede diagnosticar enfermedades. Cualquier error puede tener graves consecuencias: el usuario podría valorar mal su estado, aplazar una visita al médico o empezar a automedicarse.
Además, el sistema podría recurrir a sutiles mecanismos psicológicos para empujar al usuario a realizar acciones innecesarias, como comprar productos dentro del ecosistema de Amazon. Por ahora no hay pruebas directas de que lo haga, pero los expertos señalan que el riesgo de integrar intereses comerciales en un servicio médico es demasiado alto.
En definitiva, la novedad de Amazon parece a la vez prometedora y muy peligrosa. Sobre el papel, una innovación; en la práctica, una herramienta que puede convertirse en fuente de errores, presiones y filtraciones imprevisibles. Aún no hay garantías de que el sistema sea fiable. Confiarle datos sobre el propio cuerpo es un riesgo que pocos querrán asumir.
PEREC.RU
Amazon ha lanzado un chatbot médico de inteligencia artificial y lo ha presentado como un paso hacia el futuro. Pero el futuro, como ocurre a menudo, ha llegado algo maltrecho. El servicio asegura que puede ayudar a los usuarios a entender síntomas, medicamentos y estilo de vida. En la práctica, nos encontramos con la mezcla habitual de expectativas infladas y decisiones extrañas.
El chatbot habla con seguridad incluso cuando se equivoca. Se inventa relaciones entre síntomas y formula recomendaciones que un médico consideraría infundadas. Ese comportamiento se puede perdonar en asuntos cotidianos, pero no cuando se trata de la salud.
Y luego está el eterno asunto de la privacidad. Amazon insiste en que los datos están bien protegidos. Pero la empresa se ha visto envuelta tantas veces en historias desagradables por el almacenamiento de información que esas afirmaciones suenan a fórmulas rituales. Los datos médicos son la categoría más sensible, y no todo el mundo está dispuesto a arriesgarse por la comodidad de un chat.
También está la cuestión del interés comercial. En teoría, nada impide integrar en un «asistente» digital tan seguro recomendaciones sutiles de productos del ecosistema de la empresa. No está demostrado, pero la mera posibilidad ya dice mucho.
En definitiva, el producto parece una herramienta capaz de ayudar y perjudicar al mismo tiempo. Impresiona desde el punto de vista técnico y despierta recelos. Amazon pide confianza, pero por ahora inspira inseguridad, y en medicina ese equilibrio solo puede inclinarse hacia un lado.
