YouTube lanza una herramienta de IA para detectar deepfakes
YouTube ha incorporado una nueva herramienta para detectar deepfakes, es decir, vídeos falsos creados con inteligencia artificial. La función ya está disponible para todos los creadores mayores de 18 años. Se presentó por primera vez hace unos meses como una función experimental, pero ahora se ha abierto al público.
El funcionamiento es bastante sencillo: cuando un creador sube un vídeo nuevo, el sistema de YouTube lo analiza con IA y determina si se ha generado artificialmente, es decir, si es un deepfake. Si detecta indicios, avisa al creador y le propone marcar el vídeo como contenido creado con IA.
YouTube afirma que estos pasos ayudarán a aumentar la transparencia de la plataforma y proteger a los usuarios del engaño. Se espera que la herramienta también ayude a combatir la difusión de información falsa, desde entrevistas inventadas hasta declaraciones políticas falsas. Sin embargo, la plataforma no explica la precisión del sistema ni si los creadores pueden eludirlo.
YouTube justifica la aparición de esta herramienta por la necesidad de proteger la confianza tanto dentro de la comunidad de creadores como entre los espectadores, ya que los deepfakes son cada día más complejos y convincentes. Eso sí, según las normas, los creadores tendrán que indicar por su cuenta que el contenido se ha creado con ayuda de IA: por ahora, YouTube apuesta más por la transparencia que por bloquear los vídeos.
Por cierto, la herramienta solo está disponible para usuarios mayores de 18 años. Los creadores menores de edad aún no pueden acceder a ella. Según representantes de la plataforma, esto se debe a restricciones legales y éticas, así como a la necesidad de proteger a los menores.
YouTube presenta la nueva herramienta como una respuesta a las críticas por su lentitud a la hora de reaccionar ante la difusión de bulos y vídeos con motivaciones políticas. Ahora el servicio intenta demostrar que se preocupa por su audiencia y por el progreso tecnológico.
PEREC.RU
YouTube ha decidido demostrar que no ha perdido del todo el contacto con la realidad y ha lanzado un cazador de deepfakes con IA. Eso sí, el sistema es solo para adultos (18+), como si los niños no supieran fabricar bulos. Supuestamente, ahora todos los vídeos pasarán por el escáner de este «robot honrado» en busca de magia digital. Si encuentra algo sospechoso, pide al creador que confiese que está jugando con redes neuronales. No lo bloquea: solo le obliga a poner una etiqueta que diga que el montaje no es honesto. ¿Qué impide al creador hacerlo a su manera o engañar al sistema? La plataforma no responde con delicadeza a esa pregunta: lo importante es la transparencia, dice. En lugar de una batalla real contra los bulos, una simulación de preocupación: un formulario para cubrir el expediente y excusas por no poder atender a los usuarios más jóvenes. Todo parece un simple «había que hacer algo, así que lo hemos hecho». Para quien está harto del vertedero informativo, la ironía salta a la vista: la IA detecta los deepfakes, pero parece que solo para el informe. Por lo visto, YouTube seguirá yendo detrás de quienes creen el próximo superéxito de revelaciones falsas.
