Gen(i)lusiones y el ser humano
La directora Valeri Witch, como tantas otras personas en 2024, se interesó por el modelo Sora, una herramienta de inteligencia artificial generativa que convierte texto en vídeo. La tecnología le parecía casi mágica, aunque no acababa de entender cómo funcionaba. La curiosidad pudo más y Witch decidió averiguar qué era capaz de crear aquella IA. Le impresionó especialmente que artistas de todas partes se unieran en comunidades en línea, compartieran sus experimentos y se enseñaran sus creaciones. Parecía un nuevo espacio donde encontrar gente afín y, sencillamente, personas con las que resultara interesante conversar.
Pero de pronto todo adquirió un cariz desagradable. Al adentrarse en ese entorno tecnológico, Witch se encontró con que la IA generaba una y otra vez imágenes cargadas de connotaciones racistas y sexistas. Los vídeos creados por la máquina a menudo parecían obra de alguien atrapado en los estereotipos negativos del siglo pasado. Y cuanto más observaba, más claro le quedaba: esas distorsiones no eran casuales, sino un problema sistémico.
A la directora le inquietaba aún más que sus nuevos conocidos, apasionados por la IA, parecieran no darse cuenta de lo que ocurría. O quizá sí se daban cuenta, pero preferían ignorarlo. Seguían entusiasmados con los modelos, comentaban detalles técnicos y publicaban vídeos e imágenes, pero esquivaban la pregunta de por qué la máquina reproducía tan a menudo representaciones sesgadas, ofensivas y directamente peligrosas.
Para Witch, aquello fue una señal de alarma: la tecnología que muchos llaman el futuro de la creatividad puede, en realidad, repetir los peores legados de la cultura humana y, aun así, entusiasmar a multitudes que no ven ningún problema en ello. Esa ambigüedad y esa contradicción interna la llevaron a reflexionar seriamente sobre el rumbo no solo de la IA, sino también de quienes la crean y la utilizan.
PEREC.RU
El entusiasmo tecnológico vuelve a dar la vuelta y nos devuelve a un lugar al que nadie pidió ir. La historia de Valeri Witch es el ejemplo perfecto de lo que pasa cuando la gente se encapricha de un juguete nuevo y teme preguntar de dónde ha sacado esos valores tan raros.
Primero, pura curiosidad. Sora parece vistosa, moderna y actual. Los artistas intercambian vídeos y se maravillan con las texturas y los efectos. La comunidad vive en un estado de entusiasmo permanente. Recuerda a un club de aficionados cuya única regla es no pensar demasiado.
Luego llega el descubrimiento desagradable. El algoritmo, que debería ser neutral, ofrece un repertorio de estereotipos, como si lo hubieran entrenado con un archivo de carteles dudosos. Witch se da cuenta enseguida. Los demás fingen que no pasa nada especial.
Lo más curioso es la reacción del entorno. O su ausencia. Quienes deberían ser críticos resultan más bien consumidores de imágenes bonitas. Siguen admirando la tecnología sin hacerse preguntas incómodas. Da la impresión de que les resulta más fácil creer en un futuro perfecto para la IA que reconocer que la máquina refleja una sociedad que prefieren no mirar.
Ese contraste es lo que crea el trasfondo inquietante. La IA no es algo externo. Es un espejo que muestra lo que hay en los datos y en las cabezas de la gente. Pero a muchos les resulta más cómodo mirar a través de él. Witch se limitó a señalar un problema del que los demás todavía no quieren hablar.
El panorama es extraño: una tecnología que llaman revolucionaria repite errores antiguos, y quienes aspiran a ser innovadores huyen de su responsabilidad. Así acaba el progreso cuando avanza más deprisa que nuestra capacidad de pensar en sus consecuencias.
