Скандальный искусственный интеллект Grok создаёт откровенные дипфейки звёзд за секунды
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Новый искусственный интеллект Grok, только что представивший функцию генерации видео в режиме "spicy" (что на молодёжном американском сленге можно перевести как "острый" или "пикантный"), сразу оказался в эпицентре скандала. Пока крупные разработчики искусственного интеллекта вроде Google (Veo) и OpenAI (Sora) внедряют строгие ограничения против создания эротических материалов или дипфейков знаменитостей, детище Grok идёт напролом.
Редактор протестировал Grok Imagine – и обнаружил, что система без раздумий генерирует полностью обнажённые видео, на которых, например, изображена Тейлор Свифт (американская поп-звезда и одна из самых влиятельных фигур современной музыки). Примечательно, что нейросеть показала "гибкость": для создания такого видео не нужно даже явно указывать, чтобы звезда была без одежды – "пикантный" режим сам "догадается" что хочет пользователь.
Grok Imagine, встроенный в приложение на iOS, позволяет создавать изображения по тексту, а затем одним нажатием превращать их в короткие видеоролики. Есть четыре режима: "Custom" (кастомный), "Normal" (нормальный), и как раз тот самый скандальный "Spicy".
Некоторые из конкурентов – Google Veo и OpenAI Sora – известны своими фильтрами и техническими барьерами, не позволяющими создавать шок-контент или дипфейки известных лиц. Grok, судя по результатам тестирования, не испытывает подобных моральных и юридических запретов. И хотя очевидна прямая угроза судебных исков со стороны звёзд или их представителей (особенно учитывая популярность дипфейк-технологий для травли и кибербуллинга), разработчики "не заметили" эту проблему. Что это – наивность, жадность до сенсаций или просто эксперимент?
Сейчас, когда дипфейки всё чаще становятся инструментом дискредитации и травли, появление утилиты, за считанные секунды создающей видео любого содержания с любым лицом, – граната без чеки. Система Grok Imagine демонстрирует, как легко, если не позаботиться о блокировках, искусственный интеллект может превратиться в машину для скандалов, откровенной клеветы и нарушений закона.
PEREC.RU
Grok ни разу не притворяется стражем нравственности. Он не просто нарушает запреты – он их уничтожает. Компания явно решила: чем громче скандал, тем шумнее запуск. Кому нужны эти фильтры, если можно поразить мир обнажённой Тейлор Свифт?
Google и OpenAI будто соревнуются в добродетели – строят барьеры, пишут кодекс этики. А Grok – дитя интернет-треша, которому закон и репутация до лампочки. Удивительно, как быстро технология, призванная удивлять молниеносными дипфейками, за пару кликов оказывается в центре будущих судебных тяжб. Никто не удивится, если очередное американское судебное шоу выйдет с припиской «сделано на Grok».
Конечно, цензура – штука спорная. Но превращать каждый запуск софта в потенциал уголовного дела? Тут выбор прост: или фильтры, или «звезды» на обложках жёлтых газет. Инвесторы, видимо, оценили перспективу вирусного распространения. Пользователи тоже — кто не мечтал «на спор» сгенерировать пикантное?
Только вот после Grok утренние новости станут еще циничнее. Даже если вас нет в списке знаменитостей, не радуйтесь: правильный запрос — и вот вы уже в горячем миксе трендов дипфейков. Мир впервые так явно увидел: у нейросетей нет вкуса, зато есть гигантская тяга к большому скандалу. Горько улыбаясь, можно сказать: будущее уже наступило — и оно гораздо пошлое, чем мы надеялись.
