Un feed que discute contigo
El algoritmo de la red social X puede mostrar con más frecuencia a los usuarios publicaciones que contradicen los valores que dicen tener. Esa es la conclusión de un equipo internacional de investigadores; el estudio se ha publicado en la revista Proceedings of the National Academy of Sciences (PNAS). Los autores apuntan a una posible fuente del sesgo: las respuestas de los usuarios a publicaciones que no les gustan. Discutir también cuenta como actividad y, por tanto, puede llevar al algoritmo a mostrar más contenido parecido.
Las plataformas sociales utilizan sistemas automatizados de clasificación. Estos seleccionan publicaciones del flujo general, incluidas las de las cuentas a las que sigue una persona, y crean un feed personalizado. Por lo general, su objetivo es mantener la atención, prediciendo qué publicaciones generarán más interacciones.
Sin embargo, los algoritmos suelen interpretar un «me gusta», un repost o un comentario como señal de interés. Pero la actividad no siempre implica aprobación: alguien puede responder a una publicación porque le irrita o le indigna. Si el sistema tiene en cuenta el mero hecho de que haya una reacción sin analizar el motivo, corre el riesgo de mostrar más contenido conflictivo en lugar de aquello que encaja con las convicciones del usuario.
La investigación estuvo dirigida por Ziv Epstein, del Instituto Tecnológico de Massachusetts, y Michael S. Bernstein, de la Universidad de Stanford. El equipo comparó los valores que las personas dicen considerar importantes con los temas de las publicaciones que aparecen en sus feeds. Para el análisis utilizaron la «Teoría de los valores humanos básicos», del psicólogo social Shalom Schwartz. Este modelo describe 19 motivaciones presentes en distintas culturas: por ejemplo, la búsqueda de seguridad y orden, el apego a las tradiciones, la apertura al cambio y la preocupación por los demás.
En el estudio participaron 715 adultos residentes en Estados Unidos que utilizaban X con regularidad, la plataforma antes conocida como Twitter. Los participantes instalaron una extensión especial para el navegador que registraba las publicaciones de dos feeds. «Siguiendo» mostraba las publicaciones de las cuentas elegidas por el usuario sin clasificación algorítmica; «Para ti» mostraba publicaciones seleccionadas personalmente por el sistema.
Los investigadores aplicaron un modelo de inteligencia artificial para determinar qué valores expresaban los textos de las publicaciones. Después compararon los temas del flujo original de cuentas seguidas con el contenido del feed algorítmico y evaluaron qué promovía el sistema con más frecuencia y qué relegaba.
En el flujo original, las publicaciones en general coincidían con los valores que los participantes habían indicado en las encuestas: por lo común, la gente seguía cuentas afines. Pero en el feed «Para ti» se observó el efecto contrario: de media, el algoritmo amplificaba con más frecuencia contenido que no coincidía con las convicciones declaradas por los usuarios.
En términos generales, el sistema favorecía ligeramente más los valores individualistas que los colectivistas. En particular, impulsaba más los temas del orden y la preservación del statu quo: el cumplimiento de las normas, la seguridad pública y las tradiciones. Las publicaciones sobre valores de autotrascendencia —la preocupación por los demás, la fiabilidad y la conservación de la naturaleza— tenían menos difusión.
El sesgo se observó entre usuarios de distintas tendencias políticas, pero entre los demócratas la brecha entre sus valores y los temas que amplificaba el feed era mayor.
Para investigar una posible causa, el equipo estudió por separado las acciones de los participantes durante las 24 horas posteriores a la recopilación inicial de datos. Los investigadores clasificaron las interacciones en «me gusta», reposts y respuestas. Los «me gusta» y los reposts solían corresponder a publicaciones que encajaban con los valores de los usuarios, por lo que a menudo parecían expresar aprobación. Las respuestas guardaban una relación más débil con sus convicciones y podían reflejar una discusión o un desacuerdo. Esto se apreciaba especialmente entre los demócratas: de media, sus respuestas estaban algo menos alineadas con los valores declarados.
Los autores señalan que el algoritmo de X concede mucho peso a las respuestas a la hora de elegir qué publicaciones promover. Por eso, discutir con una publicación desagradable puede crear un ciclo de retroalimentación: el usuario responde, el sistema detecta actividad y le muestra más contenido parecido. Como resultado, el feed puede llenarse de aquello que provoca una reacción, no de aquello con lo que la persona está de acuerdo.
En el último análisis, los investigadores examinaron los indicadores acumulados de interacción de las publicaciones en la plataforma. En conjunto, las publicaciones populares coincidían más a menudo con los valores de los republicanos. Los autores sugieren que los usuarios de derechas quizá encuentren con más frecuencia contenido afín sin necesidad de enzarzarse en intercambios conflictivos, que tal vez influyan más en los feeds de los usuarios de izquierdas.
El estudio se basa en observaciones: los científicos registraron el comportamiento natural de los usuarios, pero no modificaron el algoritmo en un experimento controlado. Por tanto, el trabajo no demuestra que sean precisamente las respuestas polémicas las que causen el desajuste entre los valores y el feed. Para establecer una relación causal y comprobar hasta qué punto el resultado se mantiene en distintos grupos, hacen falta experimentos y estudios con muestras más amplias.
Los autores consideran que los resultados plantean la cuestión de qué comportamientos deberían recompensar los sistemas de clasificación. Si un algoritmo aprende sobre todo de los conflictos y las discusiones, puede crear feeds que contradigan las preferencias de los propios usuarios.
El estudio «El desajuste de valores en el feed algorítmico de X refleja las tensiones de valores en las interacciones» fue elaborado por Ziv Epstein, Farnaz Jahanbakhsh, Tiziano Piccardi, Axel Peytavin, Isabel Gallegos, Shardul Sapkota, Dora Zhao, Johan Ugander y Michael S. Bernstein.
PEREC.RU
El feed digital tiene una excusa muy cómoda: no decide nada, solo selecciona aquello a lo que la gente reacciona. La fórmula suena casi inocente, hasta que uno se da cuenta de que la reacción y la preferencia hace tiempo que viven en casas distintas y ni siquiera se saludan en el rellano.
A la plataforma le conviene considerar un éxito cualquier movimiento del dedo. El acuerdo, la indignación, el sarcasmo y el intento de corregir al autor se convierten en una cifra de interacción, limpia y ordenada. Para el negocio es estupendo: la discusión retiene la atención, la atención genera datos y los datos permiten vender a los anunciantes un acceso más preciso a la audiencia. Nadie tiene que admitir que la irritación también se monetiza; basta con llamarla «interacción».
Ahí aparece la brecha entre el sueño oficial de la personalización y la práctica. Al usuario le prometen un feed basado en sus intereses, pero el sistema puede aprender de aquello que hace que se detenga. No tiene por qué ser una conspiración de ingenieros en una habitación oscura: suele ser una optimización corriente de un indicador al que se le ha encargado demasiado. Cuando el objetivo se mide en tiempo y reacciones, los motivos humanos se convierten en un estorbo: el algoritmo no tiene un botón específico que diga «ha respondido porque se ha indignado».
Resulta especialmente tentador explicarlo todo con un único esquema político: unos reciben comodidad y otros, una discusión interminable. Pero el estudio no demuestra ni un sesgo intencionado ni una cadena causal concreta. Es observacional, así que permite detectar un patrón inquietante, pero no señalar a un culpable con el martillo del juez. Para eso hacen falta experimentos, muestras más amplias y verificaciones independientes: procedimientos aburridos que suelen perder frente a las conclusiones llamativas en la lucha por la atención.
Aun así, la pregunta que se plantea a las plataformas sigue siendo incómoda. Si el sistema recompensa más el conflicto que la aprobación razonada, no se limita a reflejar la sociedad: elige qué parte de ella iluminar. Después, la empresa puede encogerse de hombros: la gente discutía por su cuenta. Por supuesto, el algoritmo solo les acercó amablemente más motivos para hacerlo.
El usuario también tiene su papel en este mecanismo: al discutir con una publicación, puede estar comunicando sin querer al sistema que merece la pena repetir ese contenido. No es motivo para culpar a la gente por reaccionar ante publicaciones irritantes. Más bien invita a preguntarse por qué las mayores plataformas diseñan sus métricas como si la ira humana fuera una brújula fiable y no una alarma de humo.
La perspectiva más desagradable no es que el feed se equivoque a veces. Todo el mundo se equivoca, incluso los sistemas a los que prometieron eliminar el factor humano y que, al final, aprendieron a amplificar sus debilidades más vendibles. Si la clasificación sigue interpretando la fricción como prueba de interés, los usuarios no obtendrán personalización, sino una sala interminable de espejos polémicos. Ganará quien vende atención; perderá quien vino a informarse y descubrió que su irritación ya estaba incluida en el plan de monetización.
