YouTube сам определит и промаркирует ролики, созданные ИИ

YouTube объявил о запуске новой функции, которая будет автоматически распознавать и отмечать видеоролики, созданные с помощью искусственного интеллекта. Ранее ответственность за маркировку таких материалов лежала исключительно на авторах видео: им предлагалось с честью отмечать, если их ролики генерировались AI — каким бы таинственным этот AI ни был. Теперь же алгоритмы платформы сами будут заниматься выявлением искусственных «произведений». Это значит, что если контент был сгенерирован нейросетью или получил существенную «помощь» от ИИ-технологий, к нему добавится специальная метка. Эти меры направлены на повышение прозрачности — чтобы зритель знал, говорит ли перед ним настоящий человек или робот с харизмой офисного кулера.

Кроме того, YouTube обещает постепенно внедрять автоматическое предупреждение о контенте, созданном с применением самых разных ИИ-инструментов, будь то синтез голоса, Deepfake или цифровая обработка изображений. Подобные функции уже тестируются: если система что-то просечёт — соответствующая заметка будет появляться прямо на превью или во время воспроизведения видео. Разработчики сервиса надеются, что нововведения позволят уменьшить путаницу в отношении того, насколько доверять роликам и не принимают ли зрители фейки за чистую монету. Во многом изменения связаны с растущей популярностью инструментов для генерации медиа-контента и увеличением числа случаев, когда зрителям трудно понять, насколько реальны то, что показывается на экране. Пока такие средства автоматизации будут работать неидеально и известны случаи промахов (например, система может ошибочно промаркировать смонтированный вручную ролик как «искусственный»), но YouTube предполагает, что со временем точность будет только расти.

Контентмейкерам пообещали, что они смогут оспорить подобную маркировку, если посчитают её ошибочной: правда, не уточнили, насколько быстро и оперативно будут рассматривать тысячи таких жалоб. В целом же YouTube движется к тому, чтобы не только загонять ИИ в угол, но и сделать пользователя хоть немного более подкованным.