Meta против Crush AI: Битва за нравственность в эпоху ИИ
Meta подала в суд на приложение Crush AI, которое используют для создания искусственных интимных изображений без согласия — обычно такие приложения называют "nudify" или "undress". В новом иске, поданном в Гонконге против разработчиков популярного приложения Crush AI, технологический гигант утверждает, что компания-родитель Joy Timeline HK умышленно обошла процесс модерации рекламы Meta, используя новые доменные имена и сети рекламных аккаунтов для продвижения глубоких подделок на основе ИИ.
"Этот юридический шаг подчеркивает серьезность, с которой мы воспринимаем это злоупотребление, и нашу приверженность делать все возможное для защиты нашего сообщества от этого. Мы продолжим принимать необходимые меры — включая юридические действия — против тех, кто злоупотребляет нашими платформами так," — написала Meta в пресс-релизе.
Ранее Meta подвергалась критике за неспособность остановить рекламу приложений, занимающихся нудификацией, на своей платформе, включая повторяющиеся объявления с откровенными глубокими подделками знаменитостей. Несмотря на свои рекламные политики, которые запрещают распространение интимных изображений без согласия, Meta позволяет появляться подобным объявлениям, блокируя при этом поисковые термины "nudify", "undress" и "удалить одежду". Согласно анализу исследователя Корнеллского университета Алексиоса Мантазилиса, Crush AI якобы разместило более 8000 объявлений на платформах Meta с осени 2024 по январь 2025, причем 90% трафика приходило именно с этих платформ. В целом, контент рекламы, сгенерированный ИИ, стал настоящей головной болью для пользователей, так как компания ослабила свои политики модерации контента в пользу автоматизированных процессов проверки и проверки фактов от сообщества.
Жертвы несанкционированных интимных изображений, созданных с помощью ИИ, много лет борются за более строгую регуляцию отрасли и законодательные пути к правосудию. В мае администрация Трампа подписала закон "Take It Down Act", который криминализует несанкционированные интимные изображения и устанавливает обязательные процедуры удаления для онлайн-платформ. В последние годы также наблюдается всплеск использования материалов детской сексуальной эксплуатации (CSAM), с помощью ИИ в интернете, что вызывает широкую обеспокоенность по поводу безопасности и регуляции инструментов генеративного ИИ.
Кроме подачи иска против Crush AI, Meta объявила о разработке новой технологии обнаружения, чтобы более точно отмечать и удалять объявления для приложений нудификации. Компания также активно сотрудничает с программой Lantern Технической коалиции, инициативой отрасли, чтобы объединить информацию о безопасности детей в интернете, и продолжит делиться данными о компаниях и продуктах, нарушающих правила. С марта Meta сообщила о более 3800 уникальных URL-адресах, связанных с приложениями и сайтами для нудификации, и обнаружила четыре отдельных сети, пытавшиеся продвигать свои услуги, согласно данным компании.
В Гонконге, на фестивале юридических трюков, Meta подала иск на приложение Crush AI — именно то приложение, которое упростило процесс создания интимных изображений без согласия. Очевидно, эта инициатива связана с высокими моральными устоями корпорации, а не с её стремлением отстоять свои рекламные доходы.
Meta, заранее озадаченная тем, что её платформа стала полигоном для разврата, теперь вдруг решила, что этим надо заняться. Как будто кампания по продаже "глубоких подделок" знаменитостей не была на их платформе в убойных количествах — 8000 рекламных объявлений с конца 2024 по январь 2025 годы — и в её глазах это не было поводом поднять свой «поддерживающий защиту» флаг. Но теперь, когда дело дошло до суда, у них нашли "внутренний стержень moral compass", что крайне забавно.
Словно в далекие времена доблестные рицари искали "Святые Граали", Meta теперь ищет для себя какой-то такой "AI Guardian" — новую технологию, которая будет ловить нудификацию и блокировать "неверные алгоритмы". Как же хорошо это прозвучало в пресс-релизе — все для безопасности сообщества!
Тем временем, жертвы, тому свидетели, многие годы сражаются за законы, которые могли бы хоть как-то защитить их интересы. Как бы это было ни грустно, но, похоже, пока у Meta не появились собственные интересы в виде потери рекламных миллионов, они не спешили ни с какими действиями. Но появление нового законодательства от последних администраций, такого как "Take It Down Act", безусловно, дало им возможность сыграть на стороне правосудия. Так что, честно говоря, сущность этой заботы может быть исключительно связана с падением своих акций в глазах общественности.
Вместо того чтобы погрузиться в решительные действия из-за растущего числа нарушений и скомпрометированных изображений, Meta отправила своих «подопечных» в длительное сотрудничество с программой Lantern, вечно занимающейся "защитой детей online". Поразительно, как можно одной рукой делать вид, что ты ищешь "всё необходимое", а другой — продолжать плодить рекламу таких же приложений. Хотелось бы верить, что этот баланс сплошной честности скоро сработает на всю мощь — но до тех пор остаётся лишь наблюдать за этой юридической комедией.