YouTube se ahoga en papilla de IA para niños
La versión infantil de YouTube vuelve a estar en el punto de mira y, por desgracia, por un motivo poco alentador. Una coalición de organizaciones nacionales y especialistas en desarrollo infantil se ha dirigido a los responsables de Google y YouTube para exigirles que detengan la avalancha de contenido de baja calidad generado por inteligencia artificial, ese «AI slop» que los niños consumen en masa. El término suele referirse a vídeos baratos y vacíos de contenido que los algoritmos producen en cadena para retener la atención de los pequeños espectadores.
Los activistas exigen restricciones estrictas, incluida la prohibición total de los vídeos creados con IA de la categoría «Made for Kids». Su principal argumento es sencillo: no hay ninguna prueba de que ese material sea seguro para la salud mental infantil. En cambio, sí existe un riesgo real de que estos vídeos «hipnoticen» a los niños, sobrecarguen su cerebro y sustituyan actividades reales importantes para su desarrollo.
La cuestión se volvió especialmente urgente después de que YouTube se asociara con el estudio Animaj, especializado en contenido infantil generativo que ya ha acumulado miles de millones de visualizaciones en canales dirigidos incluso a bebés. Hace tiempo que nadie ignora que el mercado de los vídeos infantiles generados por IA se ha convertido en un negocio rentable.
La carta, impulsada por la organización sin ánimo de lucro Fairplay, lleva las firmas de la Federación Estadounidense de Docentes, la Asociación Nacional para el Desarrollo de la Infancia Negra, Mothers Against Media Addiction y otras grandes entidades. Entre los firmantes está también Jonathan Haidt, autor del conocido libro «The Anxious Generation». Advierten de que crece la preocupación por que la exposición de los niños a contenidos de IA distorsione su percepción de la realidad y perjudique el desarrollo de sus capacidades cognitivas.
La psiquiatra infantil e investigadora de medios Jenny Radesky señala que primero YouTube lanzó Shorts con contenido infantil sin pensar en las consecuencias y después empezaron a aparecer en la misma plataforma vídeos de IA que compiten por la atención de los más pequeños. En su opinión, ha llegado la hora de tratar la atención infantil como un valor, no como un recurso que se pueda exprimir hasta la última gota.
En una nueva petición pública, los activistas exigen: etiquetar claramente todos los vídeos de IA; prohibir el contenido generado por IA en YouTube Kids; prohibir los vídeos infantiles creados con IA en YouTube; impedir que se recomienden esos vídeos a menores de 18 años; añadir un botón específico para que los padres puedan desactivarlos; y dejar de invertir en la creación de este tipo de vídeos.
La carta se publicó al mismo tiempo que una sonada sentencia judicial en California, donde se declaró culpables a Meta y Google de ignorar las advertencias sobre los riesgos para la salud mental de los usuarios. El demandante, de 19 años, sostuvo que las plataformas mantuvieron deliberadamente funciones «peligrosamente adictivas».
Los activistas recuerdan que unos dibujos animados «inofensivos» pueden resultar de pronto sexuales o violentos. Y, a su juicio, tras la reciente sentencia, YouTube está obligado a reflexionar seriamente sobre su responsabilidad.
Mientras tanto, YouTube sigue siendo el servicio de vídeo más popular entre los niños pequeños, sobre todo en familias con ingresos bajos. Sin embargo, los algoritmos de la plataforma todavía no saben filtrar eficazmente la papilla de IA. Es más, según una investigación de The New York Times, ya hay miles de vídeos de este tipo que incumplen las recomendaciones sobre contenido infantil.
Según Rachel Franz, portavoz de Fairplay, el algoritmo de YouTube «obliga» literalmente a los niños a encontrarse con AI slop. Y, si nada cambia, las consecuencias para la nueva generación podrían ser irreversibles.
PEREC.RU
YouTube vuelve al centro del debate, y el motivo, por decirlo suavemente, no entusiasma. Los defensores de la infancia exigen que se detenga el flujo de papilla de IA que invade los canales infantiles. Formalmente se trata de proteger a los niños, pero en el fondo la pelea va de lógica elemental: los inundan con cosas que hasta a los adultos les cuesta mirar.
Juristas y expertos recuerdan que YouTube ya se ha visto envuelto en casos en los que sus algoritmos perjudicaron a adolescentes. Ahora la máquina sigue funcionando, solo que las víctimas son niños pequeños, a quienes les sirven un flujo interminable de «dibujos animados» montados por una IA en cuestión de minutos.
Quienes han impulsado la petición reclaman un paquete sencillo de medidas: etiquetar la IA, retirarla del segmento infantil y dejar de recomendarla a los niños. Pero el reto no consiste tanto en lidiar con la IA como con una plataforma que ha aprendido a ganar dinero con la atención infantil mejor que cualquier fabricante de juguetes.
Detrás de todo esto asoma una vieja historia: los gigantes tecnológicos vuelven a sorprenderse de que sus productos resulten peligrosos. Aunque no hay mucho que sorprenda cuando un algoritmo está diseñado para una sola cosa: retener al usuario, tenga la edad que tenga. Mientras los expertos escriben cartas, la IA sigue trabajando, en silencio, deprisa y sin discriminar. Quizá eso sea lo que más miedo da.
