La gente confía más en los consejos de las enfermeras que en la inteligencia artificial, pero lo más importante es que parezcan intuitivos
Un nuevo estudio publicado en el Journal of Medical Internet Research ha descubierto que la mayoría de la gente sigue considerando más fiables los consejos de las enfermeras que las recomendaciones de la inteligencia artificial. Pero, contra lo que cabría esperar, la confianza no depende tanto de quién aconseja como de lo lógico que parezca el consejo. Al parecer, la gente aplica criterios de evaluación similares sin importar quién le dé la información: una persona o una máquina. Lo principal es si el consejo encaja con su intuición personal.
Los sistemas de inteligencia artificial, esos que uno se encuentra a cada paso, ya se han hecho un hueco entre los asistentes en cuestiones de salud. Servicios como ChatGPT responden a diario a millones de usuarios que preguntan por su estado de salud y sus tratamientos. Pero hay un matiz importante: no son médicos con licencia, aunque tampoco textos anónimos de internet. Ocupan un nuevo estatus: el de «casi consejero».
La idea del estudio se le ocurrió a su coautora, Ashley Landrum, profesora de la Universidad Estatal de Arizona, a raíz de un episodio sencillo: estaba comiendo Doritos en casa y se hizo un rasguño en el esófago. Alarmada, en lugar de preguntar a un médico, recurrió al ChatGPT que ya tenía abierto: ¿era peligroso? Recibió instrucciones detalladas: beber agua, comer alimentos blandos y acudir al médico si aparecían síntomas graves. Eso llevó a los científicos a averiguar cuánta gente confía en consejos de IA de este tipo.
En el experimento participaron 1.502 adultos estadounidenses de distintos perfiles, seleccionados para aproximarse lo más posible a la población media de Estados Unidos. Se les pidió que valoraran consejos en dos escenarios: uno de bajo riesgo (por ejemplo, si conviene comer huevos cuando se intenta reducir el colesterol) y otro de alto riesgo (si hay que acudir al hospital por un dolor en el pecho). A cada participante, asignado al azar, se le presentaba el consejo de una enfermera, de una IA especializada o del conocido ChatGPT. Los consejos se diseñaron para que parecieran lógicos («intuitivos») o sorprendentes («contraintuitivos»), pero siempre fueran correctos desde el punto de vista médico.
Los participantes debían puntuar la confianza en el consejo del 1 al 5. La fuente con mayor autoridad volvió a ser una persona: los consejos de la enfermera obtuvieron un 3,53; los de la IA, un 3,13; y los de ChatGPT, un 3,21. La disposición a seguir las recomendaciones también fue mayor cuando procedían de una persona. Los consejos intuitivos recibieron una confianza media de 3,46, frente a solo 3,12 para los no intuitivos. Cuando lo que estaba en juego era realmente importante, por ejemplo la salud del corazón, la confianza en los consejos inesperados caía aún más.
Resulta interesante que, si el tema era controvertido —por ejemplo, la congelación de óvulos—, los consejos de «tendencia conservadora» les parecían menos fiables a los participantes y no despertaban sus ganas de seguirlos, independientemente de que vinieran de una persona o de una IA.
La etiqueta «enfermera de IA» no inspiró una confianza especial: no sirvió de nada, y la confianza en ChatGPT y en la IA especializada se mantuvo más o menos igual. La conclusión para los desarrolladores está clara: a la gente le importan tanto la forma como el contenido, y cuando una recomendación choca con sus expectativas no basta con dar el consejo; hay que explicar su lógica y sus motivos.
Los científicos también observaron que quienes desconfían de la medicina confiaban más en la IA, mientras que los pacientes habituales confiaban más en las enfermeras. Hay un matiz: los escenarios eran hipotéticos, sin preocupaciones ni emociones reales, y los participantes recibían mensajes ya preparados, sin mantener una conversación de verdad con una IA. En la vida real la situación puede ser distinta, como reconocen los propios investigadores.
El artículo se titula “Trusting Generative AI for Health Advice: Preregistered Survey Experiment” y sus autores son Ashley Landrum, Nitin Verma y Amanda Kerberg.
PEREC.RU
El artículo muestra toda la gracia y el absurdo de la confianza moderna: a la gente no le apetece depender de algoritmos, pero, si el consejo suena familiar, la IA se convierte casi en alguien de la familia. La ironía no está tanto en la pugna entre el ser humano y la máquina como en que el sentido común de la mayoría se acaba justo donde suelen empezar las recomendaciones ajenas. El episodio de los Doritos es una metáfora triste: buscar una solución sencilla, encontrar confirmación para las propias creencias y no querer pensar más a fondo. La IA no vence al ser humano porque sea fría, sino porque no sabe halagar ese «yo ya lo sabía» que llevamos dentro. Los investigadores nos lo ponen delante de las narices: la etiqueta «enfermera de IA» no tiene nada de mágico. La marca, la interfaz y la ética quedan en segundo plano frente a lo principal: para rebatir los errores humanos hay que explicar, no limitarse a aconsejar. La gente de a pie solo valorará lo que cabe en su micromundo. Que quienes desconfían de la medicina se fíen de la IA no es una victoria del progreso, sino una señal de que ahora la confianza se mide menos por los títulos que por la disposición a seguirle el juego a nuestra paranoia. Lo demás son escenarios para presentaciones. Aún no les han añadido confianza, como tampoco una recuperación de verdad.
