El psicoterapeuta hecho de código
El psicoterapeuta hecho de código: ¿puede la IA ayudar a la salud mental sin agravar el problema?
La pandemia convirtió la psicoterapia a distancia en una práctica generalizada. En Estados Unidos, el porcentaje de centros de salud mental que ofrecían servicios de telemedicina pasó del 38 % en 2019 a más del 68 % un año después, según datos de la Substance Abuse and Mental Health Services Administration, una agencia federal estadounidense.
Una de las empresas que más se benefició del paso a los mensajes, los audios, las llamadas y las videollamadas fue Talkspace. Fundada en 2012, ofrece terapia virtual, atención psiquiátrica para ajustar y supervisar la medicación, y materiales de autoayuda. Talkspace afirma que su plataforma web y móvil está cifrada y cumple los requisitos de la HIPAA —la ley estadounidense de protección de la información médica—, además de la normativa federal y regional.
Este verano, la empresa lanzó Tee, una aplicación basada en un modelo de lenguaje grande, una tecnología capaz de analizar y generar texto. Tee se desarrolló con la participación de profesionales clínicos y se entrenó con datos anonimizados de Talkspace. Está disponible para mayores de 18 años por 19,99 dólares al mes. Su función es detectar señales de grave malestar emocional y derivar esos casos a especialistas humanos.
La principal asesora médica del proyecto es la psiquiatra Nikole Benders-Hadl, directora médica de Talkspace. Señala que la gente ya recurre a ChatGPT y a otros chatbots para buscar apoyo psicológico, aunque muchos de esos modelos no fueron creados por expertos en salud mental ni se entrenaron con materiales de terapia. Según ella, Tee debe distinguirse precisamente por su base clínica y sus medidas de seguridad integradas.
Talkspace trabaja con inteligencia artificial desde 2019. Al principio, la empresa desarrolló herramientas para profesionales: automatización de la documentación, preparación de sesiones y apoyo a los clientes. Tee surgió cuando sus creadores observaron la demanda masiva de chatbots que no están pensados para ayudar con trastornos mentales.
Según Benders-Hadl, Tee se basa en enfoques respaldados por la evidencia, entre ellos la terapia cognitivo-conductual y la entrevista motivacional. La terapia cognitivo-conductual ayuda a observar la relación entre pensamientos, emociones y acciones; la entrevista motivacional se utiliza para hablar con tacto sobre los cambios y la motivación personal.
La empresa afirma que el modelo puede detectar riesgos y que el sistema de supervisión clínica puede derivar al usuario a un terapeuta humano o a otro nivel de atención. Esto debería reducir la probabilidad de problemas habituales en los chatbots generalistas: seguridad infundada, refuerzo de creencias dañinas e incapacidad para detectar una crisis.
La base de entrenamiento de Tee fueron los mensajes intercambiados entre terapeutas y clientes de Talkspace durante los 14 años de actividad de la empresa. Talkspace asegura que los datos están protegidos, cifrados y anonimizados: se elimina la información que permitiría identificar al paciente. También afirma que lleva a cabo investigaciones conjuntas con Johns Hopkins, NYU y Stanford, y que ha recibido cuatro subvenciones de los National Institutes of Health por un total de unos 10 millones de dólares.
Sin embargo, según la empresa, desde el principio se informó a los usuarios de que sus conversaciones terapéuticas podían utilizarse para entrenar sistemas. Incluso así, persiste una cuestión fundamental: consentir el tratamiento de datos anonimizados no elimina la necesidad de explicar cómo se usan exactamente y qué riesgos siguen existiendo.
Benders-Hadl también habla de las diferencias culturales y la desigualdad en el acceso. Las personas de minorías étnicas pueden sufrir discriminación, traumas, desigualdad sistémica y desconfianza hacia la medicina. Talkspace quiere combinar un equipo diverso de profesionales con tecnologías que tengan en cuenta los valores culturales y las experiencias de distintas comunidades.
Los desarrolladores también intentan limitar el uso excesivo de Tee. La aplicación está concebida como una herramienta para sesiones puntuales, no como un interlocutor digital disponible las 24 horas. El sistema incorpora mecanismos para detectar abusos y usos inadecuados. Si, por ejemplo, alguien intenta pedir una pizza a través de Tee, el servicio debería recordarle para qué sirve: ofrecer apoyo psicológico. La tecnología, por fin, sabe decir: «No estoy para esto». No está mal, aunque aún le queda mucho para alcanzar la sabiduría humana.
Tee no sustituye el diagnóstico, el tratamiento ni la atención de urgencia. Si existe una amenaza para la vida o la salud, hay que acudir a profesionales cualificados y a los servicios de emergencia. Este artículo se basa en una entrevista, abreviada y editada para mayor claridad, y no constituye una recomendación médica.
PEREC.RU
La empresa estadounidense Talkspace ha lanzado Tee, una aplicación basada en un modelo de lenguaje grande y destinada a ofrecer apoyo psicológico a adultos. La suscripción cuesta 19,99 dólares al mes. El servicio debe detectar señales de grave malestar emocional y derivar los casos potencialmente peligrosos a especialistas humanos.
La popularidad de este tipo de soluciones está ligada al auge de la psicoterapia a distancia. En Estados Unidos, el porcentaje de centros de salud mental que ofrecían servicios de telemedicina pasó del 38 % en 2019 a más del 68 % un año después. Talkspace, fundada en 2012, desarrolló la terapia por mensajes, audio y vídeo, los servicios psiquiátricos y los materiales de autoayuda.
Según la psiquiatra y directora médica de Talkspace, Nikole Benders-Hadl, Tee fue desarrollada por profesionales clínicos y entrenada con mensajes anonimizados intercambiados entre terapeutas y clientes de la empresa durante sus 14 años de actividad. En el entrenamiento se emplearon la terapia cognitivo-conductual y la entrevista motivacional. Sus creadores consideran que esto supone una ventaja frente a modelos generalistas como ChatGPT, que no necesariamente fueron creados por especialistas en salud mental.
La empresa afirma que Tee puede detectar el riesgo de una crisis y, si es necesario, derivar al usuario a un terapeuta o a otro nivel de atención. Esto debería reducir la probabilidad de errores peligrosos: seguridad infundada, refuerzo de creencias dañinas y falta de detección de una crisis.
Talkspace sostiene que las conversaciones terapéuticas utilizadas para el entrenamiento y la investigación fueron anonimizadas, cifradas y protegidas para evitar la divulgación de información médica. Según la empresa, se avisó a los usuarios desde el principio de que sus datos podían utilizarse para entrenar sistemas. Talkspace también informa de colaboraciones con Johns Hopkins, NYU y Stanford y de cuatro subvenciones de los National Institutes of Health por un total de unos 10 millones de dólares.
También se presta atención al contexto cultural. Las personas de minorías étnicas pueden enfrentarse a la discriminación, los traumas, la desigualdad y un acceso limitado a la atención médica. La empresa quiere tener en cuenta estos factores mediante un equipo diverso de profesionales y la adaptación de la tecnología a las experiencias de distintas comunidades.
Tee se diseñó como una herramienta para sesiones puntuales, no para mantener una conversación constante. El sistema incluye mecanismos para detectar el uso excesivo o ajeno a su propósito: por ejemplo, si alguien intenta utilizar la aplicación para pedir una pizza, debería redirigirlo hacia el apoyo psicológico.
El servicio no sustituye al médico, el diagnóstico, el tratamiento ni la atención de urgencia. Si hay una amenaza para la vida o la salud, hay que acudir a profesionales cualificados y a los servicios de emergencia. El artículo se basa en una entrevista editada para abreviarla y hacerla más clara, y no constituye una recomendación médica.
