Un fantasma en el algoritmo

El documental de la directora Valerie Veatch, titulado «Ghost in the Machine» («El fantasma en la máquina»), presentado en el Festival de Sundance, plantea al espectador preguntas muy incómodas sobre el origen de la inteligencia artificial y las peligrosas consecuencias que pueden esconderse en sus cimientos. Veatch ya es conocida por sus trabajos sobre los cruces entre la tecnología y el comportamiento humano. Esta vez ha reunido material de archivo y entrevistas recientes con científicos, filósofos y especialistas en IA para construir un relato inquietante sobre cómo la tecnología puede influir en la sociedad, la cultura e incluso el medio ambiente.

La afirmación más impactante de la película es que muchas de las ideas originales que sustentan el aprendizaje automático se remontan a teorías pseudocientíficas de racismo científico y eugenesia. Veatch reconoce que al principio tampoco se lo creyó cuando lo oyó por primera vez. Pero, al investigarlo por su cuenta, descubrió que los primeros fundamentos matemáticos sobre los que se construyen los algoritmos modernos de detección de patrones sí están relacionados con ideas de clasificación de las personas por sus «cualidades» y «características raciales», las mismas que se utilizaron en su día en las teorías eugenésicas.

La directora cuenta que se puso manos a la obra después de que una amiga la inscribiera en el programa de un importante desarrollador de vídeo generativo con IA. Los resultados que producía la herramienta, según ella, eran inquietantes: imágenes racistas, representaciones sexualizadas de mujeres y otras «sorpresas técnicas» que no se podían explicar mediante algoritmos neutrales. Cuanto más profundizaba en el tema, más evidente le parecía que el origen de esos problemas estaba en cómo y para qué se crearon los primeros sistemas de análisis automático.

La película se hizo literalmente de forma artesanal: Veatch la montó a partir de materiales disponibles en internet, incluidas imágenes de archivo de Sam Altman, Elon Musk y otras figuras destacadas. Reconoce que cada día se preguntaba si estaba haciendo una locura. Pero las contundentes historias de los expertos que participan en el documental la animaban a seguir. Trabajaba en los huecos entre las excursiones escolares de sus hijos, en una mesita del dormitorio. Algunos ya han calificado la película de «manifiesto punk», una descripción que la propia directora considera muy acertada.

«Ghost in the Machine» no acusa tanto como obliga a mirar hacia donde normalmente nadie quiere: las raíces ideológicas de unas tecnologías que ya forman parte de la vida cotidiana. Es un intento de averiguar qué se ha incrustado en los algoritmos y cómo unas premisas invisibles pueden moldear el futuro.