Las grandes plataformas, bajo vigilancia

Grandes redes sociales como Meta, TikTok, YouTube, Snap e incluso Roblox y Discord han decidido ponerse el disfraz de defensoras ejemplares de los adolescentes y participar en un nuevo sistema de evaluación externa de la seguridad. La iniciativa la ha puesto en marcha la organización Mental Health Coalition dentro del programa Safe Online Standards, un conjunto de unos veinte criterios que servirán para evaluar hasta qué punto las plataformas cuidan la salud mental de los adolescentes de 13 a 19 años.
El programa incluye requisitos sobre las políticas de las plataformas, sus funciones, sistemas de gestión, transparencia y control de contenidos. La iniciativa está dirigida por el doctor Dan Reidenberg, director ejecutivo del Consejo Nacional para la Prevención del Suicidio de Estados Unidos.
Las empresas que han decidido participar se comprometen a presentar documentación sobre sus normas, herramientas y capacidades. Una comisión independiente de expertos estudiará los datos y emitirá uno de tres veredictos.
La calificación más alta tiene el sorprendentemente alentador nombre de «usar con precaución». La acompaña un distintivo azul que las plataformas podrán exhibir como señal de virtud. Pero tras la solemnidad se esconden requisitos de lo más corrientes: herramientas de denuncia fáciles de usar, controles de privacidad claros para los padres y filtros eficaces que reduzcan la cantidad de contenido dañino.
El siguiente nivel es «protección parcial»: algo de protección hay, pero encontrarla es tan difícil como conseguir un taxi decente un viernes por la noche. La última calificación es «no cumple los estándares». La recibirán las plataformas cuyos filtros y moderación no consigan bloquear contenidos peligrosos.
Mental Health Coalition existe desde 2020 y casi desde el primer día mantiene una cálida amistad con Meta. A lo largo de los años, la organización ha realizado campañas, estudios y actividades conjuntas: desde intentos de reducir el estigma en torno a la salud mental hasta llamamientos a los padres para que hablen sobre un uso «saludable» de las redes sociales, algo así como «no salgas, simplemente quédate sentado como es debido».
También ha habido otras iniciativas, como el programa Thrive, creado junto con Meta, en el que distintas empresas tecnológicas comparten datos sobre infracciones relacionadas con contenidos sobre suicidio y autolesiones.
Mientras tanto, Meta lleva años defendiéndose de acusaciones. En 2023 salieron a la luz informaciones según las cuales la empresa habría ocultado los resultados de un estudio interno, «Project Mercury», que mostraba el efecto negativo de sus productos en la salud mental de los usuarios. Ahora Meta afronta un juicio en California por los daños a menores causados por productos conocidos y diseñados para mantenerlos enganchados.
En el programa de calificación participan también otros actores: Roblox, que hace poco se vio envuelto en una oleada de acusaciones de que su entorno puede ser inseguro para los niños, y Discord, al que obligaron a endurecer la verificación de edad tras sonados casos de amenazas a la seguridad infantil. Así que el intento de parecer responsables era de esperar.