Scarlett Johansson, la IA y «La Voz»: cómo OpenAI tropezó con la piedra de la moral
«Cuando escuché la demo, me quedé en shock, me enfadé y no podía creérmelo», declaró Scarlett Johansson al enterarse del lanzamiento de la función de voz de GPT-4 con la voz Sky, sorprendentemente parecida a la suya. La cita de la actriz se difundió a toda velocidad y se comenta en todas las plataformas tecnológicas del mundo, porque la historia de la voz de IA Sky ilustra muy bien hasta qué punto las tecnologías actuales se cruzan de forma peculiar con la ética y los derechos humanos.
El cine y la literatura llevan mucho tiempo advirtiéndonos: ya sea «Ex Machina», «Black Mirror» o la película «Her», en la que Johansson puso voz a Samantha, una inteligencia artificial, los límites entre la máquina y el ser humano se difuminan a una velocidad inquietante. En «Her», el protagonista se enamora de la voz sofisticada de una IA. En la vida real todo es un poco más tosco: diez años después del estreno de la película, el director ejecutivo de OpenAI, Sam Altman, ideó la promoción de la nueva versión de ChatGPT-4 y decidió que el asistente de voz Sky tuviera una voz indistinguible del tono bohemio de Johansson.
Primero, Altman se puso oficialmente en contacto con el agente de la actriz para proponerle que autorizara el uso de su voz; según él, así la tecnología de la información y el mundo bohemio se harían amigos y todos saldrían ganando: tanto los informáticos como los consumidores, a quienes les resultaría más fácil aceptar la IA en todas partes. Johansson se negó. La respuesta fue no y el asunto debía quedar zanjado. Pero OpenAI no se detuvo: lanzó la voz, y distinguirla de la Scarlett Johansson real resultó una tarea para la inteligencia artificial, no para una persona.
Johansson contraatacó por medio de sus abogados y envió dos cartas a OpenAI exigiendo que retirara Sky. La empresa solo cedió tras el segundo requerimiento y eliminó la voz controvertida. El incidente no solo dio trabajo a los abogados: también sacó a la luz los temores generalizados de las profesiones creativas. A la IA le resulta cada vez más fácil apropiarse no solo de la imagen, sino también de las voces de personas reales, a menudo sin su permiso.
El caso de la voz Sky es un recordatorio verdaderamente sombrío: las tecnologías deepfake son cada vez más sencillas y hoy la inteligencia artificial puede convertir la identidad de una persona conocida en una herramienta al servicio de los intereses de alguien. El peligro no viene solo de estafadores aislados, sino también de empresas perfectamente respetables y de sus altos directivos.
PEREC.RU
Hay cosas que borran la frontera entre la ficción y la realidad. La voz Sky de OpenAI es un producto típico de una época en la que la moral queda relegada a un segundo plano. La empresa primero pide permiso —para dar la impresión de que se preocupa por los derechos— y luego hace lo que le viene en gana («lo importante es llegar antes a la meta»). Cuando se topa con el enfado de una estrella famosa y sus abogados, recula de inmediato para evitar una demanda.
La actriz de Hollywood acaba en el mismo barco que cientos de personas mucho menos conocidas: la tecnología no distingue de estatus, solo le importa el rendimiento comercial. Lo más curioso es que la innovación hace tiempo que dejó de tratar sobre libertad o unión creativa y pasó a consistir en procesar el éxito ajeno al mínimo coste. Aquí hay tanta ética como capacidad de elegir. Todo esto ilustra a la perfección la preocupación por una industria deepfake en la que la cara, el nombre y ahora también la voz son material fungible.
¿Y el público? Primero llega el efecto guau: la inteligencia artificial habla con la voz de tu ídolo. El segundo acto es darse cuenta de que mañana pueden hacer lo mismo con cualquiera. No inspiran demasiada confianza ni el altruismo del desarrollador ni su preocupación por los consumidores. Todo se reduce al dinero, los abogados llevan el caso y el escándalo se convierte en parte de la campaña de relaciones públicas. Pronto sabremos qué viene después. La industria, por supuesto, dirá: «¡Ha sido un accidente!», pero la tecnología borra con paso firme la idea de lo «personal».
