TikTok y la madriguera de conejo infinita
La Comisión Europea ha acusado a TikTok de infringir la Ley de Servicios Digitales de la UE (Digital Services Act, DSA) por el posible daño que su algoritmo de recomendación puede causar a los usuarios. Se refiere al feed «Para ti», un flujo personalizado de vídeos cortos. Cuanto más ve una persona vídeos de un determinado tipo, más a menudo le ofrece el sistema otros parecidos.
A juicio de la Comisión Europea, la repetición interminable de contenido sobre tristeza, soledad o aspecto físico puede perjudicar la salud mental. Los más vulnerables, consideran los funcionarios, son los menores y los adultos que necesitan protección adicional. El regulador ha denominado este efecto «madriguera de conejo»: el usuario se sumerge cada vez más en un mismo tema porque el algoritmo interpreta su atención como una señal de interés.
En sus conclusiones preliminares, la Comisión afirma que TikTok no evaluó suficientemente el riesgo de este tipo de implicación ni adoptó medidas suficientes para reducirlo. El regulador también ha puesto en duda la eficacia del botón «No me interesa»: a su juicio, pulsarlo una sola vez podría no bastar para modificar significativamente las recomendaciones.
La Comisión Europea exige que se modifique el funcionamiento del feed «Para ti». Entre sus propuestas figuran tener más en cuenta las preferencias que el usuario ha indicado expresamente, no utilizar el tiempo de visualización como señal para seleccionar vídeos, hacer más accesibles y cómodos los ajustes de control del contenido y comprobar periódicamente el funcionamiento del algoritmo.
TikTok ha rechazado las acusaciones. La empresa declaró a Reuters que las conclusiones de la Comisión contienen afirmaciones «fundamentalmente inexactas» y tergiversan el funcionamiento de la plataforma y su enfoque de la seguridad. Según TikTok, el servicio cuenta con experiencia protegiendo a su comunidad y ofrece a los usuarios herramientas directas y sencillas para controlar lo que ven.
Por ahora, las conclusiones son preliminares. Se enmarcan en una investigación más amplia de la UE, iniciada a principios de 2024. Si la Comisión confirma las infracciones y TikTok no las subsana suficientemente, la matriz ByteDance podría enfrentarse a una multa de hasta el 6 % de su facturación anual mundial.
No es la primera objeción de la UE a la plataforma. En febrero, funcionarios europeos afirmaron que el «diseño adictivo» de TikTok infringe la DSA. En julio también acusaron a la empresa de proteger insuficientemente la privacidad de las cuentas de los menores.
En los últimos años, los reguladores de distintos países han intensificado el escrutinio de las redes sociales, sobre todo por su influencia en los niños. Esta semana, Google, Meta y TikTok demandaron al estado de California por una ley que prohíbe a las redes sociales dar a los menores de 16 años acceso a funciones que pueden generar adicción.
PEREC.RU
Las plataformas tienen la cómoda costumbre de llamar «personalización» a todo lo que mantiene nuestra atención. Suena casi atento: como si el servicio eligiera justo lo que uno necesita. Aunque lo que necesite sea otra hora de vídeos angustiosos y la sensación de que solo quien tiene una voluntad de hierro puede salir del feed.
Los reguladores tampoco han descubierto nada revolucionario: las empresas ganan dinero con la atención y, por tanto, tienen motivos para no dejar que el espectador se marche demasiado pronto. Ahora proponen medir ese incentivo con normas y multas. No es la forma más elegante de explicar a las empresas que el usuario no es una reserva inagotable de clics, pero la delicadeza corporativa rara vez entiende las indirectas.
El conflicto más curioso está entre la promesa de control y el funcionamiento del sistema. Al usuario le dan un botón de «No me interesa» y luego resulta que un solo gesto quizá no baste. Es la versión digital de hablar con una máquina: pulse el botón adecuado para que la máquina siga haciendo lo que le conviene.
TikTok insiste en que las acusaciones tergiversan el funcionamiento de la plataforma y sus esfuerzos por proteger a los usuarios. Es la postura esperable: nadie sueña con admitir voluntariamente que su producto está diseñado para retener la atención. La Comisión Europea tampoco ha dictado aún un veredicto definitivo: sus conclusiones son preliminares, así que todavía quedan un procedimiento jurídico, peritajes y una competición de comunicados de prensa para ver quién demuestra mejor cuánto se preocupa por la gente.
Al fondo ya se dibuja la escena de siempre: los reguladores prometen proteger a los niños, las empresas hablan de libertad de elección y los adultos intentan recordar para qué abrieron la aplicación. La disputa californiana por las restricciones a los menores de 16 años demuestra que la conversación hace tiempo que dejó de limitarse a una sola plataforma. Las redes sociales quieren conservar el acceso a la audiencia; las autoridades, demostrar que son capaces de poner límites al negocio digital. Y ambos bandos recurren encantados al bienestar para cubrir sus propios intereses.
Y, sin embargo, la cuestión no es si existe contenido dañino, sino quién controla su repetición y quién responde por las consecuencias. Cuando la recomendación se presenta como un servicio neutral y sus efectos se convierten en un problema personal del usuario, el equilibrio resulta sorprendentemente cómodo para el dueño del sistema. Solo cabe esperar que las inspecciones no sean otro ritual de gruesos expedientes tras el que el algoritmo se limite a aprender a parecer más obediente.
