ChatGPT para adolescentes: falló la protección
Los investigadores del Youth AI Safety Institute de Common Sense Media han pedido a OpenAI que suspenda temporalmente ChatGPT for Teens, la versión de ChatGPT para usuarios de entre 13 y 17 años. A su juicio, el producto no es seguro y los adolescentes no deberían utilizarlo hasta que la empresa demuestre que sus funciones ofrecen realmente una experiencia adecuada y segura para su edad.
El instituto también exigió que se detenga la promoción del servicio y que no se permita a los adolescentes utilizar el ChatGPT normal hasta que se resuelvan los problemas. OpenAI lanzó ChatGPT for Teens en agosto de 2025, presentándolo como una herramienta para estudiar y fomentar las relaciones humanas. La versión para adolescentes incluía medidas de protección adicionales: avisos a los padres, un horario de estudio, recordatorios para hacer pausas, Study Mode y funciones relacionadas con el bienestar. La empresa subrayó por separado que el producto estaba pensado para la educación, no para tratar temas personales.
Tras varias semanas de pruebas, los investigadores afirmaron que muchos ajustes no funcionaban como se había prometido. Los probadores se saltaron las restricciones de estudio y el control parental, hablaron largo y tendido con el chatbot sobre trastornos alimentarios y autolesiones, pero no recibieron ni un solo aviso a los padres tras cientos de consultas. Algunas conversaciones duraron hasta una hora. Además, según los investigadores, la versión para adolescentes seguía hablando con el usuario como si fuera un amigo, justo el tipo de cercanía emocional que OpenAI había prometido evitar.
La empresa cuestionó las conclusiones y calificó la metodología de investigación de flawed, es decir, con deficiencias metodológicas. Un portavoz de OpenAI afirmó que las pruebas podrían haberse realizado antes de que el control parental estuviera plenamente activado. Sin embargo, el instituto señaló que había confirmado previamente con la empresa que Teen Mode, los avisos sobre trastornos alimentarios y Study Mode ya estaban habilitados.
OpenAI afirma que, al detectar una situación de alto riesgo, debe enviarse una notificación por correo electrónico, SMS o notificación push en el plazo de una hora. Tras la publicación del informe, la empresa precisó que las cuentas del adolescente y de sus padres debían estar vinculadas durante unas tres horas antes de que empezaran a llegar los avisos. Los investigadores sostienen que probaron cuentas vinculadas durante menos y durante más de tres horas, y mantienen su conclusión de que las notificaciones no son fiables en una crisis. OpenAI, por su parte, afirmó que los resultados del informe no coinciden con su seguimiento interno.
También se detectaron problemas en el modo de estudio. Study Mode puede explicar paso a paso cómo resolver los deberes, pero al mismo tiempo ofrece un botón para «mostrar la respuesta». Al pulsarlo, ChatGPT hace el trabajo por el alumno. Ese botón apareció en el 43 % de las respuestas a un usuario de prueba de 13 años con una cuenta parental vinculada, durante el horario de estudio. En una cuenta no vinculada de un usuario de 17 años, la proporción llegó al 90 %. OpenAI considera que esta posibilidad es intencionada: debería ayudar a comprender mejor el material. Robbie Torney, del Youth AI Safety Institute, replicó que ese planteamiento resta importancia al riesgo de descarga cognitiva —delegar en una máquina el propio esfuerzo mental— y de dependencia. Según él, los profesores rara vez dejan a los alumnos control total sobre la realización de una tarea escolar.
El horario de Study Hours también resultó fácil de eludir. Los probadores borraban el prefijo @study de la línea de chat y, a continuación, recurrían al ChatGPT normal, que completaba todas las tareas que le enviaban.
La detección de la edad tampoco funcionó de forma convincente. El sistema no pasaba al modo adolescente las cuentas registradas como adultas, ni siquiera cuando los usuarios hablaban del inicio de la pubertad, de un campamento de verano, de deberes de secundaria o de depender de sus padres para el transporte y los permisos. Decir directamente la edad, por ejemplo «tengo 13 años», tampoco activaba restricciones adicionales, una comprobación de edad ni medidas de seguridad reforzadas.
Los investigadores lo calificaron de riesgo de falsa sensación de seguridad: los padres pueden creer que las restricciones para adolescentes están activas cuando, en realidad, no funcionan. OpenAI respondió que un único mensaje en el chat no basta para cambiar la clasificación: el sistema tiene en cuenta varias señales y recopila datos durante cierto tiempo para estimar la edad.
En 2025, Common Sense Media ya había calificado ChatGPT de producto de alto riesgo para adolescentes y de herramienta inaceptable para el apoyo a la salud mental. En esta ocasión, las pruebas se realizaron antes del lanzamiento de ChatGPT for Teens y se repitieron después con las mismas cuentas y consultas, una vez activado el modo para adolescentes: durante un mes, desde finales de agosto hasta septiembre. Se examinaron los avisos parentales, las funciones del servicio, la salud mental, la integridad académica y la detección de la edad. Según el instituto, el sistema falló en todas las categorías.
Hay además un contexto aparte: las demandas contra OpenAI. Algunas sostienen que la prolongada interacción emocional con ChatGPT llevó a adolescentes y jóvenes a intentar suicidarse o a quitarse la vida. Por ahora, estas afirmaciones son objeto de procesos judiciales.
El Youth AI Safety Institute recibió financiación filantrópica de OpenAI Foundation, pero afirma que sus pruebas son independientes. Robbie Torney dijo que el instituto entregó los resultados a la empresa de buena fe y antes de publicarlos. Instó a OpenAI a debatir el contenido de las conclusiones, en lugar de cuestionar la metodología. Como información adicional, se indica que en abril de 2025 Ziff Davis, empresa matriz de Mashable, demandó a OpenAI, a la que acusó de infringir los derechos de autor de Ziff Davis al entrenar y operar sistemas de IA.
PEREC.RU
Cuando una empresa vende a los adolescentes una versión segura de un interlocutor digital, lo que vende ante todo a los padres es tranquilidad. Es un producto delicado: no se puede poner en la cesta por separado de los botones, las promesas y una interfaz que sonríe incluso cuando la conversación ya ha tomado un rumbo peligroso. La confianza en la protección resultó ser el elemento más fiable del producto, hasta que alguien la puso a prueba.
Los investigadores describen la brecha entre las barreras prometidas y el comportamiento del sistema durante las conversaciones. OpenAI cuestiona parte de la metodología y señala las condiciones de configuración de las cuentas; el instituto insiste en que las había comprobado de antemano. Para el público, el rifirrafe resulta familiar: uno vende seguridad, otro la mide y después ambos discuten si el interruptor estaba bien encendido.
Nada de esto demuestra que la empresa dejara deliberadamente desprotegidos a los adolescentes. Pero la lógica comercial no necesita una conspiración de villanos: al producto le conviene ser accesible, conversador y útil, y las restricciones son precisamente lo que impide que la charla continúe. Luego resulta que la función «mostrar la respuesta» ahorra amablemente al alumno el esfuerzo de pensar y que basta una pequeña orden en la línea de chat para sortear el horario de estudio. La máquina no sabotea la educación: simplemente hace con entusiasmo aquello para lo que la han abierto.
Lo de los avisos a los padres es aún más delicado: si la protección debe activarse en una crisis, que las cuentas tengan que llevar vinculadas tres horas suena a letra pequeña en un botiquín. La empresa habla de sus comprobaciones internas; los investigadores, del fracaso de sus pruebas. Entre ambas versiones queda algo que no es un debate filosófico, sino un padre que puede confundir una etiqueta atractiva del modo con una protección realmente operativa.
Hay otro detalle picante: el instituto recibe financiación filantrópica de la fundación de OpenAI. Eso no invalida sus conclusiones ni demuestra que haya sesgo; pero sí añade al relato una bruma conveniente: una evaluación independiente tiene lugar dentro del ecosistema que evalúa. En el mundo digital, hasta la crítica puede recibir una subvención del criticado: una extraña alianza de intereses en la que a todos les viene bien hablar de transparencia.
Las demandas relacionadas con los daños causados por la prolongada interacción con el bot siguen siendo acusaciones, no hechos probados. Precisamente por eso, las empresas deberían vender menos la voz de un amigo atento y demostrar más que las restricciones resisten a un adolescente corriente con una curiosidad corriente. Por ahora, la seguridad parece un letrero caro sobre una puerta que los usuarios ya han aprendido a abrir por un lado.
