Las personas y el cerebro del software

La idea que el autor denomina «cerebro del software» consiste en una forma particular de ver el mundo: todo se percibe como algoritmos, bases de datos y ciclos. Esa mirada ha dado forma a la tecnosfera actual, desde Marc Andreessen hasta los desarrolladores de IA. Pero también explica la brecha entre el entusiasmo de la industria y la irritación creciente de la gente corriente. Según las encuestas en Estados Unidos, la mayoría de los usuarios tiene una opinión negativa de la IA. La generación Z —los jóvenes nacidos aproximadamente después de 1996— es la que más la utiliza, pero no la soporta. Solo el 18 % de los jóvenes espera que la tecnología sea útil, mientras crece el enfado. La gente usa ChatGPT, Google Overviews y otras herramientas, pero eso no la hace feliz.

Los líderes tecnológicos entienden, sin embargo, que la IA carece de «legitimidad social»: la gente no ve sus beneficios, pero sí siente que es una amenaza. La construcción de centros de datos provoca protestas, se amenaza a políticos y atacan a directivos de empresas de IA como Sam Altman. La violencia es inadmisible, pero refleja la impotencia ante una industria que promete «acabar con todos los empleos». Dario Amodei, de Anthropic, dice abiertamente que muchos trabajadores de oficina podrían ser sustituidos.

La industria cree que el problema es el «mal marketing». Sin embargo, a la IA no le falta publicidad. La gente se topa con ella todos los días y saca sus propias conclusiones. No sirve de nada intentar convencerla con anuncios. Esta es la brecha entre el «cerebro del software» y la vida real. El «cerebro del software» ve el mundo como un conjunto de bases de datos: las casas son Zillow, los coches son Uber, los vídeos son YouTube. Pero las bases de datos no son la realidad. Los intentos de obligar a la sociedad a vivir según las leyes del software fracasan.

Esto se ve especialmente en el ámbito jurídico. La industria de la IA sueña con sustituir a los abogados porque el derecho se parece al código: lenguaje formalizado, precedentes, instrucciones. Pero el derecho no es un ordenador. Por definición, es ambiguo. No se pueden predecir las decisiones judiciales como si fueran el comportamiento de un programa. Los intentos de «digitalizar» la sociedad están condenados al fracaso porque las personas no son máquinas.

El «cerebro del software» también se manifiesta en los negocios: la consultoría, la automatización de procesos, los informes y los recortes se convierten en ciclos de datos. Para la industria, eso es el paraíso. Pero la vida humana no es un ciclo. La gente no quiere una automatización total ni aspira a convertirse en una base de datos. Ni siquiera el hogar inteligente se ha popularizado en diez años, pese a todos los esfuerzos de Apple, Amazon y Google.

Y la industria de la IA exige que la gente se desnude por completo ante ella: acceso al correo, los mensajes, los archivos, las costumbres y los calendarios. Silicon Valley cree que ganará quien primero se vuelva totalmente «legible» para la IA. Pero la gente corriente no quiere vivir vigilada por ahorrarse un par de minutos.

El autor sostiene que obligar a las personas a adaptarse a los ordenadores es un fracaso. Los ordenadores deben adaptarse a las personas. Pero la industria, impulsada por el «cerebro del software», va en dirección contraria: construye sistemas que consumen mucha energía y exigen cada vez más datos y más control sobre la vida de los usuarios. Y se sorprende de que la odien. La respuesta es sencilla: la gente no necesita automatización a cualquier precio.