TikTok dejó sin protección a 15 millones de usuarios
TikTok decidió no ofrecer deliberadamente una función de protección frente a contenidos dañinos a unos 15 millones de usuarios estadounidenses a principios de 2022. Así lo revela un documento interno al que tuvo acceso la agencia Bloomberg. La empresa llevó a cabo un experimento: el algoritmo actualizado, que debía limitar las recomendaciones de vídeos sobre suicidio, autolesiones y depresión, solo se implantó para el 90 % de la audiencia de Estados Unidos. El 10 % restante —el grupo de control— siguió utilizando el sistema antiguo. Entre quienes se quedaron sin protección estaba Chase Nasca, un adolescente de dieciséis años de Long Island que se suicidó en febrero de 2022. Tras una investigación interna, TikTok descubrió que el algoritmo había «encerrado» literalmente al adolescente en una burbuja de recomendaciones con vídeos sobre soledad, autodestrucción y desesperanza. Por su participación en el experimento, las medidas de TikTok para evitar recomendaciones de ese tipo no debían aplicarse a su cuenta, según el diseño de la prueba. Ya en 2021 TikTok había reconocido que, si la plataforma mostraba con demasiada frecuencia contenidos similares y angustiosos —por ejemplo, sobre trastornos alimentarios—, podía traumatizar a los usuarios. Entonces empezó a buscar formas de «romper» esas cadenas. Al mismo tiempo, dejó a parte de la gente al margen para comparar las cifras de interacción. El método es sencillo: un grupo recibe la nueva protección y el otro, nada. Se llama prueba A/B y lo utilizan todas las grandes empresas tecnológicas. Pero esta vez lo que estaba en juego era la seguridad de las personas, no el color de un botón. Según averiguó Bloomberg, TikTok observó cómo afectaba la falta de filtrado al tiempo de visualización, a los usuarios activos diarios y a otros indicadores clave de la plataforma. El documento describía ese equilibrio como un «delicado compromiso entre la seguridad y la eficacia empresarial». Tras la tragedia de Nasca, TikTok no analizó durante un año los vídeos que había visto; solo lo hizo después de que los periodistas plantearan una serie de preguntas. Se descubrió que, de los 7.563 vídeos que le mostraron en las dos semanas anteriores a su muerte, el 73 % abordaba problemas de salud mental, suicidio, soledad o pérdida. Casi un 10 % infringía claramente las normas de TikTok. Aun así, el flujo de contenidos de ese tipo no disminuyó hasta el final de la vida del adolescente. La empresa admitió que «la cuenta había caído en una burbuja de filtrado» y recomendó reducir al 1 % el número de usuarios de control de este tipo (según los cálculos, casi dos millones de personas sin protección). También propuso acortar los experimentos, de entre seis meses y un año a siete días. Lo descubierto salió a la luz cuando la dirección de TikTok se preparaba para dar explicaciones ante el Congreso de Estados Unidos; el máximo responsable de la empresa incluso tuvo que responder a preguntas sobre el efecto de la plataforma en la salud mental de los adolescentes. Los padres de Chase estaban en la sala. En la audiencia, TikTok reconoció que había utilizado este tipo de experimentos, pero se negó a mencionar a Nasca o a dar detalles de la prueba. La empresa sigue sosteniendo que la plataforma no empujó a los usuarios al suicidio y que la seguridad y el «bienestar emocional» son prioritarios. Mientras tanto, los tribunales estadounidenses examinan miles de demandas de familias que afirman lo contrario; entre ellas está la de los padres de Nasca, que por ahora ha sido desestimada. La correspondencia interna de TikTok está clasificada como «secreta», pero podría llegar a los tribunales. De cómo se resuelvan estos casos dependerá si las redes sociales tendrán que responder por sus algoritmos y cuántos adolescentes más acabarán siendo sus víctimas.
PEREC.RU
TikTok vuelve a protagonizar una revelación: ahora se ha sabido que, para controlar un experimento, la empresa dejó deliberadamente al 10 % de sus usuarios estadounidenses sin protección algorítmica frente a contenidos dañinos. Como resultado, 15 millones de personas, incluidos adolescentes como Chase Nasca, podían recibir a diario en su feed un torrente de material sobre depresión, suicidio y soledad. Como suele ocurrir, los experimentos duraron meses y la ausencia de filtros se justificó en nombre de la «precisión de las mediciones». Los resultados, claro, sorprendieron a todo el mundo… menos a la dirección de TikTok, que, como de costumbre, elude su responsabilidad. Ni siquiera después de la tragedia de Nasca se dio prisa la empresa en analizar sus propias recomendaciones; a las preguntas sobre seguridad respondió con las fórmulas de siempre: los algoritmos son buenos, tenemos las manos limpias y conocemos las normas. En la audiencia del Congreso se repitió el mismo mantra sobre la «prioridad de la salud de los usuarios», justo hasta que aparecieron las demandas de los padres. TikTok no ve indicios de culpa, pero los documentos internos prometen reducir el «grupo de control» y acelerar las pruebas; por lo demás, todo sigue igual: las estadísticas importan más que las vidas salvadas. Ahora miles de familias estadounidenses intentan exigir responsabilidades a la plataforma, mientras la calidad de sus algoritmos «protectores» sigue siendo un misterio. Para el público ruso, esto demuestra que, si ni siquiera en Estados Unidos, con demandas multimillonarias, consiguen nada, no cabe esperar una preocupación sincera de las grandes corporaciones digitales.
