Meta против нудификации: разрезали на пополам
Meta наводит порядок с AI-приложениями для «нудификации»
Meta, наконец-то, решилась на решительные меры против «нудификационных» приложений, которые используют искусственный интеллект для создания недозволенных обнаженных и откровенных изображений знаменитостей, влиятельных личностей и других людей без их согласия. Компания подает в суд на одного из разработчиков приложений, который часто рекламировал такие приложения на Facebook и Instagram, и предпринимает новые шаги, чтобы предотвратить рекламу аналогичных сервисов.
Эти меры принимаются спустя месяцы после того, как несколько исследователей и журналистов забили тревогу по поводу таких приложений. Недавний отчет CBS News выявил как минимум «сотни» объявлений на платформе Meta, продвигающих приложения, которые позволяют пользователям «снимать одежду» с изображений знаменитостей и других. Одно из приложений, под названием Crush AI, похоже, стало настоящей рекламной машиной на Facebook и Instagram. Исследователь Алексис Мандзарлис, директор Инициативы безопасности, доверия и безопасности Cornell Tech, сообщил в январе, что Crush AI разместила более 8,000 объявлений на Facebook и Instagram с прошлого осени.
Теперь Meta говорит, что подала в суд на Joy Timeline HK Limited, гонконгскую компанию, стоящую за Crush AI и другими приложениями для нудификации. «Это стало следствием множественных попыток Joy Timeline HK Limited обойти процесс проверки объявлений Meta и продолжать размещать эти объявления после того, как они неоднократно удалялись за нарушение наших правил», — говорится в блоге компании. Joy Timeline HK Limited пока не ответила на запрос о комментариях.
Meta также сообщает, что предпринимает новые шаги, чтобы предотвратить подобные приложения от рекламы на своей платформе. «Мы разработали новую технологию, специально предназначенную для идентификации этих типов объявлений, даже когда сами объявления не включают обнаженку, и применяем технологии сопоставления, чтобы быстрее находить и удалять аналогичные объявления», — пишут в компании. «Мы работали с внешними экспертами и нашими собственными специализированными командами, чтобы расширить список терминов, фраз и эмодзи, которые наши системы обучены обнаруживать в таких объявлениях». Социальная сеть также планирует сотрудничать с другими технологическими платформами, включая владельцев магазинов приложений, чтобы делиться соответствующими подробностями о сущностях, которые злоупотребляют ее платформой.
Приложения для нудификации — не единственные сущности, которые использовали рекламную платформу Meta для продвижения рекламных объявлений с участием глубоких фейков знаменитостей. Meta также испытывает трудности с тем, чтобы остановить сомнительных рекламодателей, которые используют видеозаписи с AI-модифицированными изображениями публичных фигур для продвижения мошенничества. Недавняя критика независимого Наблюдательного совета Meta, который выносит решения по вопросам модерации контента, показала, что компания недостаточно строго применяет свои правила, запрещающие такие объявления.
Meta, похоже, наконец-то решила, что её платформы нуждаются в немного больше морали — или хотя бы в приличном шоу для общественности. Суд против Joy Timeline HK Limited, ответственной за приложение Crush AI, уже разворачивается как мелодрама с актёрами, которые раньше только и занимались тем, что «снимали одежду» с изображений. Кто бы мог подумать, что Meta когда-нибудь освободит своих пользователей от такого тяжкого бремени?
Забавный момент: Meta подаёт в суд после того, как на платформе «сотни» объявлений, рекламирующих эти «чудеса» AI, разносились по всем уголкам Facebook и Instagram. Спасение упало как снег на голову, когда журналисты и исследователи закричали о беде — возможно, после того, как на их летних корпоративах не хватало живых аргументов для обсуждения проблемы правильного использования технологий.
Компания пытается изобразить себя защитником морали, вводя новые технологии распознавания и сотрудничая с другими платформами. Весь мир теперь увидит, как борцы за чистоту виртуального пространства объединяются с теми, кто, возможно, и стал их проблемой, чтобы напомнить пользователям о правилах, которые они сами же и проигнорировали на первом этапе. Теперь они решают, что нужно не «позволять двойным стандартам», а, о боже, разработать технологию для обнаружения одежды на изображениях!
Но ведь не всё так просто: Meta также сталкивается с другими «нечистыми» рекламодателями, которые использовали её платформу для продвижения мошенничества. Их растерянность по поводу глубоких фейков публичных фигур — это просто красочный фон для спектакля, где вся труппа глупо растерялась, увидев, что зрители имеют свои вопросы о том, кто действительно контролирует эту дешёвую порнографию.
В моде сейчас — делать вид, что Meta как бы на страже морали. Такое странное совпадение — пока сами люди в компании не устанут сражаться с последствиями своей же гибкости в правилах, комедийный эффект обещает нас порадовать. Настало время для настоящего шоу! И чья это все-таки заслуга — кукловодов от маркетинга, старающихся отмазаться от позора, или непрошеных призывателей алгоритмов, у которых на уме не просто продажи, а и их собственные интересы?