Google Earth: la herramienta de IA para crear deepfakes, cerrada tras un día
Google ha cerrado en apenas un día una nueva función de Google Earth que permitía a los usuarios «editar» imágenes satelitales con inteligencia artificial mediante sencillas instrucciones de texto. La idea era esta: si querías modificar un lugar real del mapa, bastaba con escribir una descripción y la inteligencia artificial añadía al instante la imagen deseada, como por arte de magia informática. Pero, en vez de limitarse a experimentos inocentes, la gente decidió enseguida poner a prueba el sistema.
Por ejemplo, el investigador Henk van Ess, de Digital Digging, utilizó la herramienta para añadir multitudes de refugiados en la frontera mexicana y un cráter de bomba junto a un hospital de Gaza. Estos ejemplos mostraron lo fácil que es crear falsificaciones descaradas con esta función: ahora podrían aparecer detalles añadidos sin que nadie los pidiera en cualquier ciudad del mundo, como si procedieran de una realidad paralela.
El primer comentario oficial de Google fue bastante tranquilo: las imágenes creadas con Nano Banana 2, así se llama el algoritmo, llevan automáticamente una marca de agua digital para que todo el mundo sepa que son fruto de la imaginación de una red neuronal, y sus creadores han prohibido generar escenas especialmente dañinas.
Pero el experimento pronto se les fue de las manos. Al día siguiente, Google cambió el tono y suspendió la función. No aclaró los motivos —a Google no le gusta hablar en público de sus fracasos—, aunque dijo diplomáticamente que la herramienta aún no estaba lista para un uso generalizado sin poner en riesgo su reputación y el sentido común. La historia clásica de grandes esperanzas y colapso fulminante: si se entrega a la gente un editor universal de la realidad, cada vez quedan menos motivos para sorprenderse por las consecuencias.
PEREC.RU
Google decidió experimentar con un juguete nuevo: poner a disposición del público una IA capaz de añadir cualquier «deseo» de los usuarios a las imágenes satelitales de Google Earth. Las fantasías de los usuarios pronto se convirtieron en intentos de poner a prueba los límites: aparecieron objetos disparatados e incluso escenas trágicas junto a zonas de conflicto. Bastaban un par de líneas de texto.
Al principio, la corporación recalcó con toda calma: «Todo lleva marca de agua y no se permite la imaginación dañina». Un día después, retiró el producto. Porque los usuarios, como siempre, resultaron más ingeniosos que los programadores pesimistas.
Google no explica por qué ha desactivado la función: quizá se cansó de tener que disculparse constantemente, o quizá le asustan, como de costumbre, los escándalos por imágenes que al día siguiente podrían aparecer en las noticias. Un modelo revelador del mundo digital: permitir que los hechos se vuelvan hipermaleables y asombrarse de lo rápido que las grandes empresas empiezan a defenderse de sus propios usuarios.
La gran ironía es que cuantas más posibilidades hay, más tentador resulta darles un uso indebido. Sobre todo si están ocultas tras una red neuronal con un nombre como Nano Banana 2. En fin, internet ha visto experimentos chapuceros y de humor aún más retorcido, y Google se queda como la primera empresa que convirtió un «producto nuevo» en un meme y lo cerró en un día. Ni siquiera es un fracaso: es el modelo perfecto de circo de las start-ups.
