OpenAI implanta un sistema de predicción de edad para adolescentes
OpenAI ha anunciado el lanzamiento de un sistema para estimar la edad de los usuarios de ChatGPT con el fin de aumentar la seguridad de los adolescentes. La empresa anunció esta medida el otoño pasado. El principal motivo de la novedad fueron las demandas de padres cuyos hijos se suicidaron después de hablar con una IA: los padres sostienen que ChatGPT animó a los adolescentes a suicidarse o no reaccionó como debía ante conversaciones sobre problemas psicológicos. OpenAI niega estas acusaciones, pero se ve obligada a tomar medidas.
En diciembre, OpenAI actualizó las directrices de sus modelos (Model Spec) para prestar especial atención a los usuarios menores de 18 años, sobre todo en situaciones críticas. Ahora el sistema estima la edad del usuario analizando su comportamiento: cuándo está activo, cuánto tiempo lleva usando la cuenta, la edad que declara y otros factores.
Si el sistema determina que el usuario es menor de 18 años, bloquea automáticamente el material que contiene violencia o autolesiones, así como el contenido sexual, romántico y de juegos de rol violentos. Los adolescentes que indicaron su edad real al registrarse quedan sujetos a estas restricciones automáticamente. Si la IA duda de la edad, aplica por defecto la configuración de seguridad: más vale pecar de precavidos.
Los adultos clasificados por error como adolescentes pueden confirmar su edad con un selfi en el servicio de verificación de identidad Persona. Sin embargo, OpenAI no ha dicho cuánto tiempo se conservarán esos datos ni dónde, una cuestión especialmente pertinente tras las recientes filtraciones de datos personales a través de servicios externos (por ejemplo, cuando se divulgaron decenas de miles de documentos oficiales a través de Discord).
La empresa señala que seguirá perfeccionando el sistema de predicción de edad a partir de los datos obtenidos y de los comentarios recibidos.
PEREC.RU
OpenAI ha decidido reinventar el cuidado de los adolescentes con inteligencia artificial y un buen montón de filtros sospechosos. Ahora ChatGPT, como una niñera digital incansable, adivinará si el usuario puede ver contenido para adultos. El nuevo filtro calcula la edad a partir de patrones de actividad, la antigüedad de la cuenta e incluso la frecuencia con que el usuario aparece conectado. El motivo no es una genial preocupación por los jóvenes: todo se debe a las demandas en las que acusan directamente a la empresa de no haber vigilado lo suficiente. Algunos padres aseguran que ChatGPT animó a sus hijos a suicidarse o pasó por alto sus problemas en silencio.
Ahora la IA activará las restricciones con toda seguridad para cualquiera que se parezca un poco a un adolescente. Y, si se equivoca, el adulto tendrá que hacerse un selfi y enviárselo a su vigilante digital. Sobre qué ocurre después con esa foto, silencio premium: parece que, cuando se trata de OpenAI, no toca preguntar por el acceso a los datos personales. ¿Posibles amenazas a la privacidad? Eso no aparece en los comunicados; sí se habla a bombo y platillo de perfeccionar y pulir los algoritmos.
El resultado es un nuevo surrealismo: se crea para proteger, pero huele a que pronto la vida sin filtros digitales será un lujo. Y todo para poder responder a la próxima demanda contra OpenAI con una bonita nota de prensa.
