El algoritmo camaleónico de X

El equipo de desarrolladores de X publicó solemnemente el código del algoritmo de recomendación «For You» para que cualquiera pudiera consultarlo, e inmediatamente Elon Musk proclamó que era una victoria de la transparencia. Reconoció con franqueza que el algoritmo está verde e incompleto, pero que ahora cualquiera puede observar cómo se esfuerzan, con gran sufrimiento, por mejorarlo. Una idea estupenda, desde luego. Lástima que los expertos digan que esta transparencia sirve tanto como un cristal pintado de negro.

El problema es que el código publicado es, en esencia, una versión editada del sistema. Lo mismo ocurrió en 2023: entonces también enseñaron solo fragmentos. John Tjostheim, profesor de informática de la Universidad de Cornell, explica que la empresa crea una ilusión de transparencia al publicar algo que es prácticamente imposible de estudiar. ¿Comprobar cómo funciona el algoritmo? ¿Auditarlo? ¿Supervisarlo? No, no se puede. Simplemente porque las partes importantes están ocultas.

Como era de esperar, tras la publicación del código, los usuarios de X se pusieron enseguida a crear hilos interminables sobre cómo comportarse «correctamente» para ganar popularidad. Unos aconsejan «elevar las vibraciones» de la plataforma y hablar más; otros aseguran que lo que manda son los vídeos; y otros exigen no cambiar de tema, «o caerá el alcance». Pero a los expertos les hace gracia: es imposible sacar esas conclusiones del código publicado.

Algunos detalles sí son útiles: por ejemplo, el algoritmo apenas muestra publicaciones de más de un día. Pero, en general, esto no proporciona a los creadores ninguna información práctica.

La diferencia importante entre la versión anterior del algoritmo y la actual es que ahora el sistema se apoya en un modelo del nivel de Grok, es decir, una inteligencia artificial de lenguaje a gran escala. Antes, las publicaciones se ordenaban según acciones reales —cuántos «me gusta», republicaciones y respuestas recibían—, mientras que ahora la IA simplemente intenta adivinar qué probabilidades hay de que una persona indique que le gusta una publicación o la comparta. Es decir, el destino de las publicaciones lo determinan incluso las predicciones, no los hechos.

Esto vuelve al sistema todavía más opaco. Según Tjostheim, cada vez son más las decisiones que toman las redes neuronales, y lo hacen de forma tan oculta que ni siquiera los ingenieros de la empresa pueden entender los detalles. El algoritmo se convierte en una caja negra dentro de otra caja negra.

Además, la publicación actual contiene menos información que la versión de 2023. Entonces X reveló cómo se valoraban distintas interacciones: por ejemplo, una respuesta equivalía en «peso» a 27 retuits, y una respuesta que provocaba una reacción del autor de la publicación, a 75 retuits. Ahora esos datos se han tachado con el pretexto de la seguridad.

Además, el código no dice con qué datos se entrenó el modelo. Y ese es un aspecto clave: si los datos de entrenamiento están sesgados, el algoritmo también lo estará, explica Mohsen Foroughifar, de la Universidad Carnegie Mellon.

Los científicos querrían usar el algoritmo de X en sus investigaciones, por ejemplo, en proyectos de la UE para crear sistemas de recomendación alternativos. Pero ni siquiera eso es posible: el código está disponible, pero el modelo no. Es como si te dieran el plano del motor, pero se olvidaran de incluir el motor.

Estudiar un algoritmo así podría proporcionar a la sociedad información importante, sobre todo teniendo en cuenta que los mismos problemas que vemos en las redes sociales empiezan a aparecer también en la IA generativa. La manipulación, los sesgos y la prioridad de la participación sobre la calidad del contenido: todo eso se traslada al mundo de los chatbots.

Ruggero Lazzaroni, que estudia la toxicidad de las plataformas sociales, lo dice sin rodeos: las grandes empresas de IA, en su afán de lucro, ajustan sus modelos para maximizar la participación, no la veracidad ni el cuidado de los usuarios. El resultado siempre es el mismo: las empresas ganan dinero y los usuarios reciben un entorno y un bienestar cada vez peores.