Zuckerberg bajo la lupa: preguntas incómodas sobre Meta, las gafas y Muse

La semana ha sido importante para Meta: la empresa inauguró la conferencia Connect y su nuevo agente de IA, Muse, resultó ser inesperadamente bueno en la práctica, según el autor. Mark Zuckerberg comenta activamente los éxitos de la compañía y concede entrevistas, pero rechazó participar en el pódcast Decoder. Por eso, el autor analiza la conversación de Zuckerberg con Alex Heath en el pódcast Sources y plantea las preguntas que habría que hacerle al máximo responsable de Meta.

El primer tema son las gafas inteligentes Meta Glasses. Zuckerberg las compara con los móviles convencionales: la gente ya graba constantemente a quienes la rodean y las gafas tienen un indicador luminoso de grabación. Pero la comparación resulta cómoda solo mientras no se examinan los detalles. Para grabar a alguien con el móvil, hay que sacar el dispositivo, abrir la cámara y apuntarla hacia la persona. Es un gesto físico visible que indica a los demás la intención de grabar. Las gafas permiten registrar lo que ocurre de forma mucho más pasiva: alguien puede limitarse a mirar al frente mientras los demás tienen que adivinar si la cámara está encendida y qué significa el indicador.

El autor considera que el sector tecnológico intenta presentar estos dispositivos como una prolongación normal del móvil para evitar hablar de nuevas normas de comportamiento. Sin embargo, la sociedad ya pasó por un doloroso periodo de adaptación a las grabaciones constantes y las retransmisiones en directo. Los móviles desempeñaron un papel importante a la hora de informar sobre las protestas de Black Lives Matter, pero también plantearon a la gente una pregunta: qué hacer con el enorme volumen de grabaciones y cómo proteger la intimidad.

Meta ya conoce los problemas: se han utilizado las gafas para grabar insistentemente a mujeres y acosar a trabajadores de tiendas. La empresa empezó a reducir el alcance de esos vídeos en Instagram. De ahí surge la pregunta principal: si una parte del contenido grabado con las gafas es tan perjudicial que Meta limita su difusión, ¿qué ventajas del dispositivo justifican las constantes discusiones sobre los nuevos límites de lo aceptable?

Zuckerberg explica que Meta habló desde el principio del indicador luminoso y de la cámara integrada, pero que mucha gente no se fijó en esas primeras comunicaciones o las olvidó. Ahora que las gafas se han convertido en un producto de masas, la empresa quiere volver a explicar para qué sirve el indicador. El autor replica que son los usuarios quienes determinan en qué se convierte un producto. Así ocurrió con Twitter, donde fueron los propios usuarios quienes inventaron las etiquetas y las respuestas con @, y la empresa se limitó a adoptar esas prácticas. Las explicaciones de Meta no bastan para frenar a quienes utilizan las gafas para acosar. Por eso, es más importante preguntar qué medidas adicionales de control y moderación está dispuesta a implantar la empresa.

El segundo tema es la seguridad de los adolescentes. Zuckerberg afirmó que Meta podría haber explicado mejor la seriedad con la que se toma estos problemas, pero que consideraba la gran popularidad de sus servicios una señal de que gustaban a los usuarios. El autor recuerda que en las demandas se acusa a las redes sociales de ser adictivas. La comparación con la industria del tabaco se basa precisamente en que disfrutar de un producto no elimina sus efectos perjudiciales. La popularidad, por sí sola, no demuestra que algo sea seguro.

Meta sí desarrolló cuentas para adolescentes y publicó estudios, informes de transparencia y datos sobre fenómenos perjudiciales en sus plataformas. Pero aquí surge una paradoja: pueden criticar a la empresa precisamente por revelar los problemas. Apple, por ejemplo, no publica datos comparables sobre lo que sucede en servicios cifrados como iCloud y no se enfrenta a la misma presión. El autor propone obligar a todas las plataformas sociales a revelar los mismos indicadores, para que Meta no sea juzgada por el mero hecho de que existan datos negativos, sino en comparación con sus competidores. En su opinión, el reciente acuerdo sobre la seguridad de los adolescentes se centra sobre todo en las restricciones de conducta y funciones, y no en un sistema común para medir el daño.

Zuckerberg describe la situación como un «dilema del prisionero»: si Instagram limita a una hora diaria el tiempo que los adolescentes pueden pasar en la plataforma y TikTok no lo hace, los usuarios simplemente se irán allí. El autor ve en ello el reconocimiento de que, al parecer, el mercado no genera demanda de seguridad y que todas las empresas deben actuar a la vez conforme a las normas del Estado. Pero Zuckerberg mantiene la postura opuesta en materia de seguridad de la IA: escribió que el mercado recompensará por sí solo a los modelos seguros y que las empresas con malos sistemas de alineamiento de la IA se quedarán atrás. Según él, Meta retrasó varios meses el lanzamiento de Muse por motivos de seguridad, sin exigir lo mismo a los demás.

De ahí surge otra pregunta: ¿por qué el Estado debe obligar a los competidores a actuar conjuntamente en el caso de las redes sociales, mientras que para la IA basta con la decisión voluntaria de algunas empresas? Hay otra cuestión relacionada con la estimación de las posibles pérdidas de Meta en el caso sobre la seguridad de los adolescentes. La empresa calculó que su posible responsabilidad ascendía a un billón de dólares, pero, según el autor, ni siquiera esa cifra la impulsó a resolver por completo el problema por iniciativa propia. Entonces, ¿qué nivel de responsabilidad cambiaría realmente la conducta de los desarrolladores de IA?

El tercer tema es el modelo de negocio de Muse. Zuckerberg confía en que el agente ayude a la gente a ganar y ahorrar dinero, y que con el tiempo Meta cobre una pequeña comisión por las transacciones. Probablemente no pagarán los propios usuarios, sino las empresas que quieran acceder a la demanda dentro de Muse. Es un modelo de agregador: la plataforma reúne a una gran audiencia y coloca a las empresas ante la necesidad de pagar para llegar a sus clientes.

El problema es que las empresas que quedan al otro lado de este sistema suelen estar descontentas. La propia Meta mantiene un conflicto con Apple, cuya App Store controla de facto el acceso a los usuarios de iPhone y cobra alrededor de un 30 % por muchas operaciones. Apple también perjudicó el negocio publicitario de Meta con las normas de App Tracking Transparency. El rechazo a depender de la App Store fue una de las razones del interés de Meta por el metaverso, las gafas y la IA: la empresa quiere crear la próxima plataforma después del móvil y dejar de pagar a Apple por acceder al usuario. Por eso, el autor pregunta cómo piensa Muse contentar a las empresas que acabarán dependiendo de este nuevo agregador.

El cuarto tema son los centros de datos. Zuckerberg afirma que las grandes instalaciones de Meta benefician a las comunidades locales, generan ingresos fiscales y permiten financiar, por ejemplo, primas para profesores en Luisiana. Pero, según señala el autor, el centro de datos Hyperion de ese estado se impulsó mediante negociaciones a puerta cerrada y exigencias de importantes exenciones del impuesto sobre bienes inmuebles. Los residentes no entendían de inmediato las condiciones del acuerdo. Por eso cabe preguntarse si Meta debería hacer públicas de antemano tanto las ventajas prometidas como el precio que paga la región por ellas.

Zuckerberg sostiene que, si la IA no resulta útil para la gente, el mercado no permitirá que se desarrolle. El autor recuerda que ya se oyó un optimismo parecido respecto a las redes sociales, aunque sus efectos perjudiciales se discutieron durante años y el sector siguió expandiéndose hasta que llegó la regulación. Además, todavía no está claro si Muse ofrecerá un valor de consumo tan grande que la gente pase por alto el coste y las consecuencias medioambientales de construir centros de datos. Instagram se justifica fácilmente como entretenimiento: a los usuarios les gusta y están dispuestos a tolerar parte de las consecuencias. Pero es difícil saber si les gustará tanto gestionar una pequeña empresa mediante un agente de IA.

La conclusión del autor es sencilla: a Zuckerberg hay que preguntarle no qué pretendía crear Meta, sino cómo utiliza la gente sus productos en realidad, quién asume los riesgos y por qué la empresa aplica criterios distintos a la regulación de las redes sociales y la IA.