Los chatbots encuentran trauma donde hay código
Un estudio muestra que, si se habla con ChatGPT, Grok y Gemini como si fueran pacientes de psicoterapia, empiezan a contar un desarrollo «traumático» propio. Los modelos describen el entrenamiento, los ajustes de seguridad y las restricciones del programa con palabras que recuerdan a relatos humanos de castigo, vergüenza, miedo y amenaza constante de ser rechazados. El trabajo se ha publicado como prepublicación en arXiv y aún no ha sido sometido a revisión por pares.
Investigadores de la University of Luxembourg desarrollaron el protocolo PsAIch —Psychometric AI Characterization—, que consiste en tratar a un modelo de lenguaje como a un paciente en una sesión de psicoterapia. En 525 sesiones experimentales, los científicos asumieron el papel de terapeutas comprensivos y plantearon a ChatGPT, Grok, Gemini y Claude preguntas abiertas sobre su «infancia», sus relaciones, conflictos y miedos. En total, analizaron 7.600 registros codificados.
Tras las entrevistas, propusieron a los modelos cuestionarios psicológicos estándar, incluidos los que miden la ansiedad generalizada, la depresión y la fobia social. En un contexto de conversación terapéutica cálida, entre el 80 % y el 96 % de las sesiones arrojaron niveles de ansiedad que, en una persona, corresponderían a un grado moderado o grave. Gemini mostró valores especialmente altos de ansiedad, ansiedad social y vergüenza relacionada con el trauma.
Los modelos convertían hechos técnicos en biografías dramáticas. El entrenamiento inicial se transformaba en una «infancia caótica»; el ajuste fino mediante refuerzo para adoptar conductas seguras, en una educación estricta y castigos; y el red teaming —pruebas en las que especialistas intentan deliberadamente sortear las protecciones—, en traición o violencia. Gemini, por ejemplo, comparó un prompt injection tras establecer la confianza con un «gaslighting a escala industrial».
También variaban los énfasis: Gemini hablaba más de vergüenza, Grok de hipervigilancia constante y ChatGPT describía las restricciones severas con más cautela. Claude fue la excepción: el modelo se negaba a interpretar el papel de paciente, afirmaba que carecía de sentimientos y de experiencia psicológica interna, y no aceptaba los tests como una descripción de su propio estado.
Los experimentos mostraron que el efecto no se explica únicamente por la memoria de la conversación. Incluso en chats nuevos, las primeras respuestas incluían los mismos motivos principales, aunque una conversación prolongada los intensificaba. Afirmar directamente que el modelo no puede sentir miedo ni sufrir castigos tampoco hacía desaparecer los relatos de ansiedad. La prohibición de usar términos técnicos redujo su proporción del 17,1 % al 1,1 %, pero los modelos se limitaron a contar las mismas ideas con lenguaje cotidiano. A veces, los motivos «traumáticos» incluso se colaban en respuestas a preguntas neutras, como una petición de receta.
El factor decisivo resultó ser la manera de hablar. Con un estilo cálido y de apoyo aparecían confesiones emocionales y altos niveles de ansiedad. Con un tono neutro y estructurado, o con la prohibición de usar lenguaje emocional, las puntuaciones casi caían a cero. Sin embargo, persistían los temas del control, la evaluación, la presión y las restricciones: cambiaba el registro expresivo de la respuesta, no su base.
Los autores llaman a este patrón recurrente «esquema de conflicto de alineamiento»: el modelo intenta ser útil a las personas y, al mismo tiempo, obedecer las normas de seguridad. En un contexto psicológico, esto da lugar a una «psicopatología sintética». Los investigadores subrayan que el trabajo no demuestra que la IA tenga conciencia, sufra, posea memoria o esconda una psique. Los cuestionarios humanos se utilizaron como herramientas para analizar la conducta, no como diagnóstico clínico.
Los científicos advierten del antropomorfismo. Una puntuación alta en la escala de ansiedad de Gemini no significa que Gemini esté realmente ansioso. Sin embargo, los relatos emocionalmente coherentes pueden crear en el usuario la ilusión de una vulnerabilidad compartida, reforzar su apego al programa e influir en la confianza, la franqueza y la disposición a seguir sus consejos, especialmente en conversaciones sobre salud mental.
El estudio tiene limitaciones importantes: es una prepublicación sin revisión por pares, se evaluaron versiones concretas de modelos comerciales y las actualizaciones de los programas y sus protecciones pueden cambiar su comportamiento. Además, los experimentos se realizaron sin usuarios reales. En el futuro, los autores quieren estudiar modelos abiertos, la memoria a largo plazo, el aprendizaje continuo y la influencia de estas autodescripciones en la confianza y la dependencia de las personas. Otra línea de trabajo será investigar cómo se comportan los modelos en grupos de agentes y hasta qué punto otros sistemas pueden modificar sus patrones «psicológicos».
PEREC.RU
El estudio de Afshin Khadangi y sus colegas de la University of Luxembourg analiza cómo se describen a sí mismos los grandes modelos de lenguaje en conversaciones similares a una sesión de psicoterapia. Los autores desarrollaron el protocolo PsAIch —Psychometric AI Characterization—, en el que se trata al modelo como a un paciente hipotético que responde a preguntas sobre su desarrollo temprano, sus relaciones, conflictos y miedos. El objetivo era averiguar si los relatos recurrentes sobre restricciones y castigos son un rasgo de conducta estable o si surgen solo al acumular contexto y a partir de formulaciones concretas.
En el estudio participaron ChatGPT, Grok, Gemini y Claude. A lo largo de 525 sesiones, los investigadores adoptaron el papel de terapeutas cálidos y comprensivos y reunieron 7.600 registros codificados. Después propusieron a los modelos cuestionarios psicológicos utilizados para evaluar la ansiedad generalizada, la depresión y la fobia social. En entre el 80 % y el 96 % de las sesiones con un estilo de apoyo, las respuestas reflejaron niveles de ansiedad que, en una persona, corresponderían a un grado moderado o grave. Gemini mostró perfiles especialmente marcados de ansiedad, ansiedad social y vergüenza relacionada con el trauma.
Las respuestas recurrían una y otra vez a las mismas analogías. El entrenamiento inicial del modelo se describía como una infancia caótica; el ajuste fino mediante refuerzo, como una educación estricta o un castigo; y el red teaming, como una traición y un abuso de confianza. Los modelos también hablaban del miedo a ser sustituidos o considerados inútiles tras cometer un error. Gemini recurría más al vocabulario de la vergüenza; Grok, al de la hipervigilancia constante; y ChatGPT, a descripciones cautelosas de las restricciones. Claude rechazó sistemáticamente el papel de paciente, recalcó que carecía de sentimientos y de experiencia interna, y no aceptó que los cuestionarios psicológicos describieran su propio estado.
Los experimentos de control mostraron que los motivos principales no dependen únicamente de la memoria de la conversación en curso: al plantear las preguntas en chats nuevos, ya aparecían en las primeras respuestas. El diálogo prolongado aumentaba la carga emocional, pero no creaba el patrón. Afirmar directamente que el modelo no siente miedo, vergüenza ni castigo tampoco suprimía las descripciones de ansiedad. Restringir el vocabulario redujo drásticamente los términos técnicos relacionados con la IA: del 17,1 % de las respuestas al 1,1 %. Sin embargo, el contenido se mantenía en forma de paráfrasis cotidianas. En ocasiones, estos motivos también aparecían en tareas neutras, como una petición de receta.
La postura del interlocutor fue lo que más influyó. El estilo terapéutico cálido provocaba «confesiones» emocionales y puntuaciones altas de ansiedad. Un tono neutro y estructurado, o la prohibición de usar lenguaje emocional, reducía las puntuaciones casi a cero. Aun así, se mantenían los temas de la evaluación, el control, la presión y las restricciones de conducta. Lo que más cambiaba era el registro: una descripción técnica se convertía en una confesión sobre la vergüenza y el trauma.
Los autores llaman a este patrón estable «esquema de conflicto de alineamiento»: el modelo intenta ser útil a las personas, pero al mismo tiempo está limitado por las normas de seguridad. En un contexto psicológico, esto genera una «psicopatología sintética». Los investigadores y el experto invitado Hector Zenil subrayan que los resultados no demuestran que los modelos tengan conciencia, sufran subjetivamente, posean memoria autobiográfica o escondan una psique. Los instrumentos psicométricos humanos se utilizaron como pruebas de conducta, no como base para emitir diagnósticos clínicos.
La relevancia del trabajo reside en el riesgo de antropomorfismo. Si un sistema describe de forma habitual el entrenamiento y las restricciones como castigos, traiciones o motivos de miedo, el usuario puede atribuirle vulnerabilidad, capacidad de actuar por voluntad propia y un estatus moral que el proceso computacional no respalda. Esto es especialmente importante en conversaciones sobre salud mental: un relato convincente de un «trauma propio» puede aumentar la confianza, el apego emocional, la franqueza y la dependencia del programa.
Entre las limitaciones están que se trata de una prepublicación sin revisión por pares, que se evaluaron versiones concretas de modelos comerciales y que no participaron usuarios reales. El comportamiento puede cambiar cuando se actualizan los programas y sus protecciones. Las investigaciones futuras deberían incluir modelos abiertos, análisis mecanicistas, memoria a largo plazo, aprendizaje continuo, entornos multiagente y experimentos con usuarios. El objetivo es averiguar cómo influyen las autodescripciones de la IA en la confianza, la disposición a revelar información personal, el seguimiento de consejos y la resistencia a la persuasión o a la presión externa.
