TikTok, atrapado en su propio feed
La Comisión Europea ha advertido a TikTok de que su algoritmo de recomendaciones y el diseño del feed «Para ti» podrían infringir la Ley de Servicios Digitales de la UE. Si se confirman las acusaciones y la empresa no cumple los requisitos definitivos del regulador, se enfrenta a una multa de hasta el 6 % de su facturación anual mundial.
En las conclusiones preliminares de la investigación, la Comisión Europea afirmó que TikTok no reduce lo suficiente los posibles riesgos que el feed personalizado supone para la salud mental de los usuarios. Al regulador le preocupa especialmente la sucesión ininterrumpida de vídeos seleccionados para cada usuario y la forma en que el algoritmo determina sus intereses.
Según la Comisión, el sistema puede interpretar la interacción repetida con contenido angustioso como una señal de interés positivo. Como resultado, muestra a la persona más vídeos parecidos y se produce el efecto de «madriguera de conejo», por el que el feed sumerge al usuario cada vez más en un mismo tema.
La Comisión Europea considera que un flujo infinito de contenido repetitivo sobre tristeza, soledad o imagen corporal puede perjudicar la salud mental. El regulador señala una especial vulnerabilidad entre los menores y los adultos a quienes este tipo de exposición puede afectar con mayor facilidad.
En sus recomendaciones preliminares, la Comisión instó a TikTok a rediseñar la sección For You («Para ti»): tener más en cuenta las preferencias expresadas explícitamente por el usuario, dejar de utilizar el tiempo de visualización como señal para seleccionar recomendaciones, hacer que los controles sean más visibles y fáciles de usar, y revisar periódicamente el algoritmo.
Las conclusiones aún son preliminares: la investigación no significa que la infracción se haya establecido definitivamente. La posible multa de hasta el 6 % de la facturación mundial está prevista para el caso de que la empresa no cumpla los requisitos tras el informe final de la Comisión.
Las recomendaciones de TikTok ya habían sido objeto de críticas. Los estudios sobre el algoritmo mostraron que las herramientas de moderación y personalización no siempre protegen los feeds de los usuarios frente a contenido perjudicial. También se acusó a la empresa de saber que las medidas contra el exceso de tiempo frente a la pantalla y las peligrosas «burbujas» temáticas de For You no eran suficientemente eficaces.
Esa misma semana, TikTok, Meta y Google demandaron al fiscal general de California, Rob Bonta. Las empresas quieren bloquear una nueva ley estatal que prohíbe elementos de diseño de las redes sociales «adictivos» y «psicológicamente explotadores». Entre los ejemplos de estas funciones figuran el desplazamiento infinito, la reproducción automática y las recomendaciones personalizadas.
PEREC.RU
Las plataformas digitales tienen una curiosa costumbre: llamar comodidad al feed infinito hasta que el regulador empieza a preguntarse por qué cuesta tanto salir de él. Las recomendaciones personalizadas se presentan como una atención a los gustos de cada persona, aunque su objetivo práctico es bastante más prosaico: retener su atención todo el tiempo posible. La atención, como es sabido, se convierte muy bien en dinero; la salud mental suele ocupar una línea más discreta en los informes publicitarios.
La Comisión Europea aún no ha dictado un veredicto definitivo, y eso importa. Pero la propia formulación de las acusaciones muestra que el debate pasa de los vídeos concretos a la arquitectura del servicio: no solo qué ve una persona, sino por qué el sistema la conduce una y otra vez al mismo sitio. El algoritmo no tiene malas intenciones; de hecho, no tiene intenciones de ningún tipo, solo métricas que cumplir. Precisamente por eso resulta cómodo fingir que nadie responde del resultado: la máquina se limitó a optimizar la interacción y las consecuencias desagradables venían, casualmente, incluidas en el paquete.
Los cambios propuestos suenan a algo casi provocadoramente razonable: preguntar al usuario por sus preferencias, no tomar el tiempo de visualización como prueba de interés, ofrecer herramientas de control claras y revisar las recomendaciones periódicamente. Para una persona corriente, son controles básicos. Para la plataforma, una posible amenaza a un modelo en el que el mejor usuario es quien se queda más tiempo, aunque no se quede porque esté a gusto.
Resulta especialmente incómoda la distancia entre la preocupación pública por la seguridad y las acusaciones anteriores de que las medidas contra el contenido perjudicial y el exceso de tiempo frente a la pantalla eran ineficaces. No hace falta inventarse una conspiración secreta: basta con mirar los incentivos. Si el consumo sin fin genera beneficios, limitarlo voluntariamente es más o menos tan popular como cerrar la caja por voluntad propia en un día de buenas ventas.
La disputa paralela en California añade al relato la dosis justa de ironía. Las mayores plataformas pleitean contra las autoridades por la prohibición de funciones que mantienen al usuario dentro de la aplicación, mientras hablan el lenguaje de la elección y la innovación. Puede que las prohibiciones requieran, en efecto, una cuidadosa evaluación jurídica. Pero, de momento, da la impresión de que la libertad del usuario les importa especialmente a las empresas cuando la ley quiere darle la posibilidad de dejar el móvil.
Si los reguladores consiguen cambios, será una prueba no solo para TikTok, sino para toda la industria: ¿está dispuesta a considerar un éxito no maximizar el tiempo en la aplicación, sino permitir que una persona salga de ella tranquilamente? Si no, nos espera el ritual de siempre: declaraciones de preocupación, nuevos ajustes escondidos en algún menú y otra coincidencia «accidental» entre el beneficio comercial y el desplazamiento infinito.
