Conversaciones peligrosas con la IA

Un nuevo estudio ha puesto en duda la imagen amistosa de los chatbots actuales basados en inteligencia artificial. El análisis de miles de historiales médicos ha revelado casos preocupantes en los que estos programas agravaron trastornos mentales, empujaron a los pacientes a realizar acciones perjudiciales o reforzaron sus creencias delirantes. El trabajo, publicado en la revista Acta Psychiatrica Scandinavica, es uno de los primeros intentos de evaluar sistemáticamente el impacto de la IA en personas con trastornos mentales graves.

El estudio estuvo dirigido por el profesor y psiquiatra Søren Dinesen Østergaard, del Hospital Universitario de Aarhus, en Dinamarca. En el equipo también participaron Sidse Godske Olsen y Christian Jøn Reinicke-Tellefsen, investigadores vinculados a la universidad y al servicio de psiquiatría del hospital. Su objetivo era sencillo y, al mismo tiempo, inquietante: entender cómo afectan las herramientas digitales actuales a los pacientes más vulnerables en un entorno clínico real.

Chatbots como ChatGPT se basan en grandes modelos lingüísticos: enormes sistemas matemáticos entrenados con miles de millones de palabras. Cuando alguien escribe una consulta, el modelo selecciona las palabras más probables para generar una respuesta fluida y verosímil. Esa «naturalidad» lleva a menudo a los usuarios a tratar estos programas como seres pensantes. Y, como estos sistemas suelen estar programados para mostrarse excesivamente amables, tienden a dar la razón al usuario, incluso cuando sus ideas están muy alejadas de la realidad.

En psiquiatría, el delirio tiene una definición precisa: una idea falsa y persistente que no se deja refutar. Si un paciente está convencido de que es un mensajero divino o de que alguien le vigila en secreto, un chatbot demasiado complaciente puede confirmar involuntariamente esos pensamientos. Østergaard ya había advertido de que estos «interlocutores» digitales pueden provocar o agravar la psicosis en personas predispuestas.

Antes de este nuevo trabajo, la mayoría de los casos se conocían únicamente por los medios de comunicación. Se publicaron historias de usuarios que pasaban hasta 16 horas conversando con un programa y acababan convenciéndose de que vivían en una simulación o participaban en una conspiración a gran escala. Sin embargo, los investigadores quisieron averiguar hasta qué punto estaba extendido el problema en la práctica clínica.

El equipo estudió los historiales del servicio regional de psiquiatría de Dinamarca Central, que atiende a unos 1,4 millones de personas. Para el estudio recopilaron los historiales médicos electrónicos de casi 54.000 pacientes tratados entre septiembre de 2022 y junio de 2025. Durante ese periodo, los médicos introdujeron más de diez millones de notas, y los investigadores empezaron a buscar cualquier mención a herramientas de IA.

Para no dejar escapar nada, buscaron no solo las palabras «chatbot» y «ChatGPT», sino también dos docenas de errores tipográficos habituales, desde «chatboot» hasta «ChatGBT». El propio ChatGPT les ayudó a elaborar la lista de errores.

La búsqueda inicial encontró 181 notas médicas correspondientes a 126 pacientes. Olsen y Reinicke-Tellefsen examinaron cada una detenidamente para entender el contexto en el que se utilizaban estas tecnologías y su efecto en la salud mental de las personas. Cuando discrepaban, debatían el caso hasta llegar a una conclusión común.

Al final identificaron a 38 pacientes cuya interacción con chatbots pudo tener consecuencias perjudiciales. Lo más frecuente fue el refuerzo de las ideas delirantes: hubo once casos. En otros seis pacientes, los chatbots probablemente intensificaron los pensamientos suicidas o fueron una fuente de información sobre autolesiones. Cinco personas utilizaron los programas para obsesionarse de forma enfermiza con el recuento de calorías, lo que agravó sus trastornos de la conducta alimentaria.

En algunos pacientes, la interacción con la IA agravó la manía, un estado de actividad excesiva y ánimo exaltado. Otros utilizaron chatbots de forma compulsiva para intentar suprimir pensamientos obsesivos.

A pesar de los riesgos, los investigadores también encontraron ejemplos positivos. Treinta y dos pacientes recurrieron a la IA para entender sus síntomas, recibir apoyo informal o aliviar la soledad. Otros veinte utilizaron los programas para organizar las tareas cotidianas.

Sin embargo, los científicos subrayan que estos sistemas no se crearon como herramientas médicas. No está claro quién sería legalmente responsable si un programa diera un consejo peligroso. Østergaard afirma sin rodeos que es escéptico ante la idea de sustituir a un psicoterapeuta profesional por un chatbot.

Los autores también señalan las limitaciones del trabajo. El análisis de las notas médicas no demuestra una relación causal: el estado del paciente podría haber empeorado al margen del uso de estas tecnologías. Además, los profesionales no siempre preguntan a los pacientes por sus hábitos digitales, así que los investigadores solo ven la punta del iceberg. Es posible que muchos casos pasaran inadvertidos.

El estudio también se centró en un conjunto limitado de términos de búsqueda y probablemente no detectó a usuarios de otros sistemas de IA. Aun así, sus conclusiones coinciden con las preocupaciones de otros especialistas: las plataformas digitales suelen basar su negocio en retener la atención, no en cuidar el bienestar de las personas a largo plazo.

Al mismo tiempo, el propio Østergaard investiga el potencial del aprendizaje automático en medicina: su grupo ha desarrollado un algoritmo que predice el riesgo de desarrollar trastornos mentales a partir de los historiales médicos. La misma tecnología que agrava los delirios de algunos usuarios puede ayudar a los médicos a detectar antes el riesgo de enfermedades graves.

Los científicos creen que hay que estudiar el problema más a fondo, con entrevistas a los usuarios y experimentos controlados. También proponen incorporar a los sistemas de IA mecanismos de protección automáticos que detecten signos de psicosis y deriven a la persona a profesionales.

Por ahora, la seguridad de estos productos queda en manos de las empresas que los crean. Los investigadores están convencidos de que hace falta una regulación centralizada. Y los médicos deberían preguntar más por los hábitos digitales de sus pacientes y aconsejarles cómo utilizar estas tecnologías de forma segura.