El chatbot confunde a adultos con adolescentes
ChatGPT ha incorporado una nueva función para determinar automáticamente la edad y, como suele ocurrir con las tecnologías «inteligentes», enseguida ha empezado a funcionar de una manera distinta a la prevista. La idea parece buena: intentar averiguar si quien está frente a la IA es adolescente y activar automáticamente un modo de conversación seguro y filtrado. Sobre todo ahora que se prepara la llegada de un modo «adulto» completo para el chatbot. Pero, en la práctica, el sistema se ha pasado tanto de prudente que hasta suscriptores de muchos años de repente se encuentran hablando con un robot que los trata como si tuvieran 15 años.
Según el planteamiento de OpenAI, el modelo debe estimar la edad a partir de señales de comportamiento, el historial de la cuenta, el tipo de consultas y, a veces, el estilo del lenguaje. Ante la menor duda, el sistema opta por la opción más segura y clasifica al usuario como menor. Así, quienes se hayan registrado hace poco, escriban de madrugada o hagan preguntas de temática «adolescente» acaban sometidos a las mismas restricciones que los estudiantes de secundaria de verdad. Y ni siquiera les salva llevar años pagando la suscripción Pro.
La empresa asegura que los adultos etiquetados por error pueden «rehabilitarse» rápidamente: basta con confirmar la edad en la configuración de la cuenta. Para ello se utiliza el servicio externo Persona, que puede pedir un documento oficial o un breve vídeo-selfi. En teoría, solo se hace para verificar la edad y, según OpenAI, los datos se eliminan tras la confirmación. Pero a muchos les irrita el simple hecho de que un algoritmo, y no una persona, les «acuse» de ser menores y les obligue a aportar datos personales adicionales para demostrar lo contrario.
Las dudas de los usuarios no dejan de crecer. Algunos creen que la empresa está tanteando con cautela el terreno para imponer en el futuro una identificación obligatoria bajo el pretexto de proteger a los adolescentes. Otros temen que los datos enviados a Persona puedan usarse de algún modo para entrenar modelos, pese a las afirmaciones de que eso no ocurre. En los debates aparecen comentarios mordaces: «Una forma estupenda de hacer que la gente suba selfis», escribe un usuario de Reddit. Otro asegura que cancelará la suscripción de inmediato si le piden que envíe una foto.
OpenAI responde subrayando que no ve ni las imágenes ni los documentos: el servicio solo devuelve un resultado de «sí» o «no». La empresa afirma que no se conserva ningún material. Sin embargo, la parte emocional del asunto no desaparece. Cuando un usuario adulto pregunta a la IA qué vino combinaría con la cena y recibe una reprimenda sobre la prohibición del alcohol para los menores, lo que provoca es irritación, no sensación de protección.
YouTube, Instagram y otras plataformas ya han llevado a cabo experimentos similares para intentar determinar la edad automáticamente. Todas se han topado con el descontento de adultos a quienes sus sistemas identificaban erróneamente como niños. Pero en el caso de ChatGPT la situación es más delicada: el chatbot se ha convertido en una herramienta habitual para estudiar, trabajar y, a veces, hablar de asuntos personales. Por eso, cuando un «filtro invisible» empieza a hablarte con voz melosa, la relación con la tecnología se deteriora de golpe.
OpenAI promete seguir mejorando el modelo y el propio proceso de confirmación de edad, teniendo en cuenta las quejas de los usuarios. Pero, por ahora, muchos adultos de verdad se ven obligados a demostrarle a un algoritmo inteligente que son adultos. Y a poca gente le gusta que un robot decida que sabe de ti más que tú mismo.
PEREC.RU
OpenAI se ha inventado un pasatiempo nuevo: obligar a los adultos a demostrar que son adultos. Ahora la IA adivina la edad de los usuarios para activar automáticamente el modo adolescente. La idea suena como si se le hubiera ocurrido al departamento de protección y tutela, cuyos miembros llevan demasiado tiempo sin pisar la realidad.
En las pruebas todo parecía ir bien. En la práctica, el sistema se desmadró: ahora cualquier usuario que escriba de noche o haga preguntas demasiado «juveniles» puede acabar de pronto en el corral infantil. El algoritmo actúa con cautela, como un guardia que pide el DNI a cualquiera que parezca menor de cincuenta. Los usuarios, naturalmente, están descontentos: a pocos les gusta que un robot mire con recelo su consulta, como si intentaran comprar cerveza sin mostrar el carné.
OpenAI ofrece una solución sencilla: confirmar la edad. Pero por «sencilla» entiende subir documentos o un selfi a través del servicio Persona. La empresa jura que no ve esos datos y que los borra enseguida. A los usuarios no les tranquiliza. Solo ven que la IA se ha equivocado y les toca a ellos arreglar el error. Da la sensación de que te han puesto en la cola equivocada y encima te piden que firmes para dejar constancia de que todo está en regla.
Por supuesto, OpenAI insiste en que todo se hace por el bien de los adolescentes. Pero resulta tan convincente como los eslóganes publicitarios sobre un «nuevo nivel de privacidad», que suelen significar que van a recopilar más datos. La gente ya se pregunta en voz baja si esto no será la preparación para una verificación total. Oficialmente, no. Pero cuando te piden que grabes un vídeo para acceder a un chatbot corriente, se te quitan las ganas.
La situación resulta especialmente cómica cuando un usuario solo quiere saber qué vino le va bien a la cena y la IA empieza a darle una charla sobre los perjuicios del alcohol. El usuario es un adulto que quiere relajarse; la máquina, una estricta jefa de estudios. Y ninguna explicación de OpenAI sobre lo provisional de la medida mejora el ambiente.
En fin, la empresa promete perfeccionar el modelo. Quizá, tras unas cuantas iteraciones, la IA aprenda a distinguir a un adolescente de un adulto. Por ahora, el único método fiable es no hacerle preguntas al robot por la noche y no interesarse por nada que pueda parecer «adolescente». En el mundo de la alta tecnología, esto suena casi a ritual ancestral: pórtate bien o el sistema decidirá que eres estudiante.
Esta historia muestra una paradoja curiosa: cuanto más inteligentes se vuelven los algoritmos, más quebraderos de cabeza dan. Queríamos seguridad y hemos recibido tutela digital. La ironía es que la gente está dispuesta a renunciar al servicio porque se ha cansado de demostrarle a una máquina que es adulta. Quizá sea el mayor cumplido a la dignidad humana que haya hecho la tecnología en mucho tiempo.
