Sora 2: лицо напрокат, анонимность – не гарантирована!
Следите за новостями по этой теме!
Подписаться на «Киноманы / Новости: сериалы, фильмы, премьеры»
OpenAI представила второе поколение своей видео-нейросети Sora 2 – и уже через неделю разгорелся скандал. Sora 2 может генерировать практически любые видео в мельчайших деталях, из-за чего платформа тут же наводнилась роликами с дипфейками знаменитостей, острыми политическими инсценировками и даже видео с лицензионными героями. Пользователи сразу провели параллели с TikTok и Reels, ведь Sora 2 тоже подаётся как соцсеть с уклоном на видео-контент.
Однако отличием Sora 2 от конкурентов вроде Grok стали более жёсткие меры по модерации: система легко позволяет жаловаться на контент сексуального или насильственного характера, а также сцены, угрожающие детям. Главное – якобы полный запрет на загрузку контента с чужими лицами, чтобы не плодились несанкционированные дипфейки. Но на практике всё не так однозначно.
OpenAI внедрила функцию "Камео" – это , по сути, ваш цифровой двойник, собранный на основании видео и аудио, которые вы сами загрузили в сервис. Подразумевается, что пользоваться дипфейком можно только с согласия пользователя: вы выбираете, кто может делать с вашим образом ролики – только вы, одобренные пользователи, друзья или вообще кто угодно. Казалось бы, всё прозрачно, если бы не нюансы: если поставить Cameo на режим общего доступа, любой сможет "одолжить" ваше лицо для любых целей.
После шквала критики OpenAI пообещала усовершенствовать ограничения. Теперь в настройках Камео доступны дополнительные установки – вы можете определить, в каких видео может появиться ваш цифровой двойник. Например, запретить использовать ваше лицо в политическом контексте или конкретно указать: "Не давайте мне говорить такие-то слова". Можно даже проследить, чтобы ваш персонаж всегда появлялся в определённой одежде.
Тем, кто не хочет быть объектом цифровых инсинуаций, стоит выбрать опцию "только я" или вообще отказаться от создания Камео при регистрации. Пока Sora 2 продолжает дорабатывать свою систему безопасности, разработчики обещают сделать водяные знаки на видео более заметными – для подстраховки от подделок. OpenAI признаёт, что пользователей раздражает избыточная модерация, но поясняет: "Лучше перебдеть, пока мир только привыкает к новым технологиям".
PEREC.RU
Sora 2 – очередной вклад OpenAI в любимую всеми игру «угадай, твоя фотография или уже генерация». Чемпионские поразительные дипфейк-видео успели захлестнуть платформу, едва компания открыла двери. Как всегда, публичное обещание защитить частных лиц щедро намешано с разрешением создавать цифровых двойников — формально с согласия пользователя, на деле же достаточно пару раз проморгать настройку в приложении. Cameo – это когда тебя можно превратить в мем или политика по выбору любого знакомого (если не уследишь за настройками). Отчаянные попытки OpenAI доказать приверженность модерации сопровождаются новыми «фичами»: теперь твой аватар может получать правила, типа «да не пущать в политику», «говорить только про котиков» или «надевай шарф, мама будет смотреть». Водяные знаки, блокировки, возможность отказаться — стандартный нейронабор репрессий для тех, кто не хочет быть кибер-контентом года. Возникает только один вопрос: модерация такая от заботы или от страха ? Sora 2 похожа на зону между Black Mirror и DMV — контролируют строго, но исправно щедро раздают ключи от лиц. Это не выход, это ловушка для тех, кто привык к иллюзии приватности.
