Google научился разоблачать свои же ИИ-видео

Google представила новую функцию в приложении Gemini, которая позволяет определять, использовалось ли для создания или редактирования того или иного видео искусственный интеллект (ИИ) самой Google. Теперь любой пользователь может загрузить видео и спросить ИИ-приложение: «Было ли это сгенерировано с помощью Google AI?» После этого Gemini проанализирует как картинку, так и звук, чтобы найти особую электронную «метку» — водяной знак SynthID, созданный самой компанией. Если такой штамп обнаруживается, пользователь получит не просто сухой ответ «да» или «нет», а еще и подробные тайм-коды, где этот след найден: в видео или в саундтреке.

Для справки: SynthID — это невидимый водяной знак, который Google интегрирует в медиа-контент, чтобы потом можно было отличать оригинальные материалы от искусственно созданных нейросетями. Второй момент: эта технология пока что работает только для видео (и изображений), которые были сгенерированы именно средствами Google AI.

Эта функция «проверки на ИИ» вышла из стадии тестирования: поддержка проверки изображений была запущена еще в ноябре прошлого года, и пока что тоже ограничивалась работами, сделанными средствами Google. Логика очень простая: если кто-то создал фейковое видео с помощью нейросетей Google – поймать его с помощью SynthID реально. Однако если видео смонтировано или изменено сторонними ИИ (например, разработанными компанией OpenAI и конкурентами), тогда никакого Google-штиха в нем не найдут.

Отдельного внимания заслуживает тот факт, что некоторые водяные знаки, по уверениям исследователей, всё же можно попытаться удалить — например, при помощи специальных программ или просто финального монтажа. Так что вопрос о надежности пока открыт — борьба между авторами фейков и создателями защиты продолжается.