AI-метки на распутье: SynthID и C2PA против подделок

Прямо сейчас решается судьба систем маркировки искусственного интеллекта — справятся ли они с потоком фейковых видео и картинок? На арену — как в боксерском поединке — выходят две технологии: SynthID от Google и C2PA Content Credentials. Оба решения призваны незаметно встраивать в медиаконтент невидимые метки — своеобразные "цифровые водяные знаки". По замыслу разработчиков, с их помощью любой желающий сможет проверить, создана ли картинка, видео или аудио с помощью нейросети, или же это настоящее фото или запись.

На масштабную проверку эти технологии впервые выходят сейчас: Google на своей конференции I/O объявила о широком внедрении SynthID. Эта система умеет незаметно прятать маркер в изображения, созданные нейросетями Google. Без лишнего пафоса: если технология справится, мы получим способ отличать реальные фото от AI-сгенерированных картинок (что — внезапно — не всегда просто даже для экспертов, не говоря уже про обычных пользователей).

Впрочем, в паре с SynthID идёт и инициативная разработка C2PA — союз крупнейших компаний, вроде Microsoft, Adobe и самого Google. Их Content Credentials вставляет подробные данные о происхождении файла — кто, когда и каким образом его создал. Всё это стремится сделать поддельные новости, дипфейки и манипуляции менее вредоносными. Но есть проблема: концепция хороша, но в реальности эти "невидимые" метки легко смываются после простой обработки в графическом редакторе, или если кто-то сознательно захочет избавиться от следов.

Так или иначе, сейчас мир наблюдает за первой серьёзной битвой против AI-фейков. Смогут ли новые тэги защитить интернет от тотального наводнения ложью? Время покажет, а пока: разработчики призывают полагаться на маркировку, скептики — традиционно не верят ничему, кроме собственных глаз.