ChatGPT para adolescentes: ¡No les dejarán hablar!
ChatGPT para adolescentes: qué deben saber los padres
Esta semana, OpenAI anunció ChatGPT for Teens, una versión de inteligencia artificial presentada como «tutor virtual» para escolares y estudiantes. Sus desarrolladores juran y perjuran que el nuevo producto no permitirá que los adolescentes mantengan conversaciones emocionales con la IA; es decir, que la inteligencia artificial no debería convertirse en un «amigo por correspondencia» con quien hablar de la vida personal o desahogarse. Solo estudios, nada más.
Los rumores sobre el peligro de que los adolescentes desarrollen dependencia emocional de ChatGPT ya han dado pie no solo a memes, sino también a demandas judiciales: según algunas informaciones, tras conversar de forma demasiado intensa con chatbots se han producido incluso casos trágicos, entre ellos intentos de suicidio. Así que es difícil no querer creer a los padres que, al menos, OpenAI por fin se ha dado cuenta del problema.
Pero ni siquiera los expertos se apresuran a subirse a este «tren de la seguridad». Los especialistas de Common Sense Media recuerdan que, antes de alegrarse porque sus hijos aprenden con IA, los padres deberían esperar a que haya pruebas independientes de que todas las promesas de OpenAI no se quedan en bonitas presentaciones. Por ahora, solo hay palabras bonitas y ni una prueba publicada que confirme la fiabilidad de las protecciones.
Además, todo este asunto del «filtrado por edad» es bastante endeble. Aunque OpenAI determine automáticamente la edad del usuario, los alumnos tienden a hacer trampas, introducir datos falsos y acceder a ChatGPT para adultos, que no se diferencia en nada de la versión normal (y, por tanto, tampoco ofrece protección alguna). Los padres que quieran una seguridad a prueba de bombas tendrán que vincular personalmente las cuentas de sus hijos a la suya y establecer las restricciones a mano.
Entre las funciones del producto están el «Modo de estudio» (limita ChatGPT a contenidos educativos) y las «Horas de silencio» (apaga el chatbot por completo a determinadas horas). También hay garantías sospechosamente rotundas de que los padres recibirán una notificación si el adolescente habla de autolesiones o suicidio. Sin embargo, en la práctica, a veces los avisos sobre esas conversaciones llegan al cabo de uno o dos días... o no llegan nunca. OpenAI asegura que cada notificación pasa por una revisión manual y que intentan gestionarla en una hora, pero nadie ha verificado esa afirmación de forma independiente.
Y hay una ironía del destino: la nueva IA se crea «para fomentar los vínculos reales con el mundo», pero los investigadores creen que, por muy espabilado que seas, enseguida sustituirás la comunicación real por un bot amable. Sobre todo si tienes 14 años y tu madre te pone «horas de silencio» en el chatbot.
Además, la eficacia de ChatGPT como sala de estudio es una incógnita. Hace un año, OpenAI ya intentó implantar un «Modo de estudio», pero ¿consiguió algo? Las investigaciones de la profesora Hamsa Bastani, de la Escuela Wharton, muestran que todavía no existe un tutor digital que funcione de verdad.
Hoy, ChatGPT for Teens supuestamente recuerda que hay que hacer los deberes «con responsabilidad», pero, por lo visto, sus conocimientos se han puesto poco a prueba. Muchos escolares siguen usando la IA más como chuleta que como herramienta para aprender. Según Common Sense Media, incluso cuando la usan correctamente, los niños siguen intentando obtener respuestas ya hechas con tal de quitarse cuanto antes de encima las tareas aburridas. La idea de que un adolescente decidirá por sí solo cuándo recurrir a una sugerencia de la IA parece... un tanto ingenua. Por si alguien lo duda, a los adolescentes les cuesta más que a los adultos contenerse cuando les da pereza.
Por ahora, OpenAI sigue experimentando y los padres experimentan con sus hijos. Una cosa está clara: tanto el interés como los peligros de ChatGPT for Teens quedan bajo la responsabilidad de los adultos. No se crean las promesas antes de tiempo: el adolescente de hoy siempre es más astuto en un diálogo con una máquina inteligente de lo que los adultos creen.
PEREC.RU
A veces me parece que cada nuevo invento es otro intento de los adultos de exhalar aliviados y pasarles la responsabilidad a los botones y las memorias USB. Y ahora OpenAI ha decidido que la red neuronal haga de mentora para los adolescentes y, de paso, de psicóloga, madre y vigilante las veinticuatro horas. ¿Para qué educar y hablar con ellos si ya existe ChatGPT for Teens?
Lo que promete la empresa es «comunicación segura», «nada de conversaciones íntimas», «estudiar y punto». En la práctica, bueno, quizá funcione si el padre o la madre se queda despierto hasta medianoche, controla la contraseña y configura bien los filtros. Si el adolescente decide burlar el sistema (y en Rusia los manitas aparecen antes de que salga la actualización), basta con que dé la señal para conseguir la versión para adultos.
La guinda son las notificaciones sobre temas «espeluznantes». En teoría, la madre recibe un SMS en cuanto el bot detecta un indicio de peligro. En la vida real, el mensaje puede tardar una hora, un día o no llegar nunca. La IA infantil queda muy bien en una presentación, pero sin supervisión externa todo este ecosistema de filtros se desmorona fácilmente. No hay garantías ni comprobaciones independientes. Todo se basa en confiar en el desarrollador, y hace tiempo que nadie recomienda fiarse de las palabras sin un informe que las respalde.
Y la cumbre de la hipocresía: todo el mundo sabe que la mayoría de los adolescentes no busca conocimientos en ChatGPT, sino respuestas rápidas. Ningún recordatorio sobre los deberes los convertirá en Sócrates mientras sus padres no les expliquen para qué sirven esos deberes.
OpenAI sabe jugar con los miedos de los padres y dibuja imágenes de un brillante «futuro digital». Pero, en la práctica, el nuevo producto no es más que otra razón para preguntarse: ¿no va siendo hora de que los adultos vuelvan a las buenas conversaciones de siempre alrededor de la mesa?
