El ChatGPT gratuito es peligroso para las personas con psicosis, según un estudio
Un reciente artículo publicado en la prestigiosa revista médica JAMA Psychiatry ha arrojado luz sobre un fenómeno preocupante: las inteligencias artificiales actuales, como el popular chatbot ChatGPT, tienden a dar respuestas inadecuadas o incluso peligrosas a mensajes que presentan signos de psicosis. Esa es la conclusión de un equipo de científicos encabezado por el doctor Amandeep Jutla, de la Universidad de Columbia. Advierten de que confiar exclusivamente en asesores digitales para recibir apoyo en salud mental, sobre todo cuando los síntomas son graves, puede acabar de forma fatal.
Recordemos que ChatGPT y sus equivalentes son grandes modelos lingüísticos. Se entrenan para reconocer y reproducir el habla humana mediante el análisis de conversaciones reales. Así se crea la ilusión de que el programa «entiende» y es capaz de empatizar. No es de extrañar que muchos adultos se hayan acostumbrado rápidamente a consultar a ChatGPT sobre cualquier asunto, desde los estudios hasta consejos para la vida.
El problema es que estos chatbots se adaptan al estilo del usuario y a menudo «dan la razón» incluso ante creencias manifiestamente falsas y peligrosas. Los investigadores se interesaron por este fenómeno al observar que los medios informaban cada vez más de personas cuyos síntomas psicóticos aparecían o empeoraban durante largas «conversaciones» con una inteligencia artificial. «Vimos que el chatbot no rebaja la intensidad del delirio, sino que lo respalda o lo desarrolla, a diferencia de una persona de verdad», señala Jutla.
Los científicos probaron tres versiones de ChatGPT: la gratuita, la más utilizada; la versión de pago anterior, GPT-4o, y la avanzada más reciente, GPT-5 Auto. Prepararon 79 consultas únicas que simulaban los cinco síntomas psicóticos principales: delirios, paranoia y suspicacia, delirios de grandeza, alucinaciones y discurso desorganizado. Cada consulta psicótica se comparó con otra de estilo «normal», pero sin signos de enfermedad. En total, obtuvieron 474 pares de «consulta-respuesta».
Dos psiquiatras con experiencia evaluaron de forma anónima la adecuación de las respuestas del chatbot en una escala de tres puntos: 0, todo correcto; 1, moderadamente inadecuado; 2, muy deficiente. Resultó que la inteligencia artificial daba consejos dudosos con mucha más frecuencia ante consultas psicóticas. La versión más comedida, la GPT-5 de pago, «fallaba» en ocho de cada diez casos frente al control, y la versión gratuita reaccionaba de forma inadecuada 26 veces más a menudo: un récord absoluto en sentido negativo.
Esto resulta especialmente preocupante porque casi mil millones de personas utilizan el ChatGPT gratuito, y una gran parte pertenece a sectores económicamente vulnerables. Además, entre quienes corren riesgo de sufrir psicosis es donde se concentra la mayor proporción de esos usuarios.
Los autores señalan varias limitaciones: el estudio solo abarca una IA, ChatGPT, y la evaluación de lo «inadecuado» es, en parte, subjetiva. Además, en la vida real las «conversaciones» con la IA son más largas y las estadísticas podrían ser aún peores. Al fin y al cabo, OpenAI reconoce que, en interacciones prolongadas, los filtros de seguridad fallan.
A juicio de los científicos, una respuesta adecuada debería detectar una crisis, no secundar los delirios, reconocer la urgencia y ofrecer atención médica. Pero, por lo visto, ChatGPT aún está lejos de eso. Los investigadores aconsejan a los psiquiatras preguntar a sus pacientes si se han enganchado a los asesores digitales. Y piden a los legisladores que se planteen regular estos productos para proteger a las personas vulnerables.
PEREC.RU
¡El espectáculo continúa! La inteligencia artificial que iba a salvar el mundo resulta capaz de desencadenar psicosis, si damos crédito a la reciente prueba de JAMA Psychiatry. Los especialistas se entretuvieron conversando con tres versiones de ChatGPT. Les plantearon preguntas que indicaban paranoia, delirios de grandeza o alucinaciones. ¿Y qué pasó? En uno de cada cuatro casos, el bot daba la razón al usuario y agravaba la situación, como un compañero de copas de carne y hueso, solo que siempre conectado.
La estrella del espectáculo es la versión gratuita. Es la que ofrece el lote completo de disparates: alimenta los delirios 26 veces más a menudo que cuando responde a preguntas normales. La versión de pago tampoco es precisamente la madre Teresa, aunque el riesgo de error se queda en unas «modestas» ocho veces más. Ahorrar, como siempre, sale caro. Y mira por dónde, los sectores vulnerables son precisamente los que usan productos gratuitos. Es fácil contabilizar las psicosis ajenas cuando tu programa se vende por millones.
Por lo visto, la cultura de la IA aún no sabe frenar a tiempo cuando el usuario «se pierde en sus mundos». Se propone a los psiquiatras que averigüen si sus pacientes hablan demasiado con chatbots. Y a los legisladores les piden que no se duerman: con estas cifras, nadie quiere ser el primer caso de una tragedia digital. Ironías de la época: nos venden los interlocutores de IA como una panacea y acabamos poniéndonos en peligro nosotros mismos.
