Google учит Gemini отличать подделки: AI помечает сам себя

Google представила новый подход к обнаружению изображений, созданных искусственным интеллектом (ИИ), в своем приложении Gemini. Теперь пользователи могут буквально спросить у цифрового помощника: «Это создано ИИ?» — и тот попытается определить, было ли изображение сгенерировано или отредактировано с помощью инструментов Google. Пока что функция работает исключительно с изображениями, но в ближайшее время Google планирует добавить возможность проверки видео и аудиофайлов. Более того, эта функция уйдет за границы приложения Gemini и появится, например, в поисковой системе Google. В данный момент анализ основан на собственной технологии Google под названием SynthID — это невидимый цифровой водяной знак для контента, сгенерированного ИИ. Однако ближайшая цель компании — внедрить поддержку C2PA, международного стандарта для метаданных, которые подтверждают происхождение цифрового контента. Это позволит проверять не только творения Google, но и работы других популярных ИИ-программ, в том числе Sora от OpenAI. Ещё один шаг в этом направлении: изображения, созданные новейшей моделью Google Nano Banana Pro, теперь будут снабжаться C2PA-метаданными сразу «из коробки». Примечательно, что к инициативе C2PA присоединился и TikTok, который теперь тоже метит свои ИИ-видео. Однако на сегодняшний день ручная проверка через Gemini по-прежнему лежит на пользователях, и по-настоящему эффективно такие технологии заработают, когда социальные сети начнут автоматически помечать сгенерированный ИИ-контент без вмешательства людей.