Meta и знаменитости: глубокое мошенничество в мире глубинных фейков

Совет по надзору утверждает, что Meta не делает достаточно для борьбы с мошенничеством с «глубокими фейками» знаменитостей. Мошенничество с использованием AI deepfake изображений знаменитостей стало все более заметной проблемой для Meta за последние несколько лет. Теперь Совет по надзору высказал свое мнение и, похоже, подтвердил то, что говорили и другие критики: Meta не делает достаточно для соблюдения собственных правил и дает мошенникам слишком много возможностей безнаказанно разгуливать.

"Meta, вероятно, допускает значительное количество мошеннического контента на своих платформах, чтобы избежать потенциально чрезмерного контроля за небольшой частью настоящих утверждений знаменитостей", — написали члены совета в своем последнем решении. "Обозреватели не имеют полномочий для контроля за контентом, который создает фальшивую личность или делает вид, что является известной личностью, чтобы обмануть или украсть деньги".

Этот вывод стал результатом дела, связанного с рекламой онлайн-игры «Plinko», в которой использовалось видео с AI-манипуляцией с участием Роналду, бразильского экс-футболиста. Реклама, которая, по мнению совета, явно показывала признаки подделки, не была удалена Meta даже после более 50 жалоб как на мошенничество. Meta позже удалила рекламу, но не саму публикацию в Facebook, пока Совет по надзору не согласился рассмотреть дело. Видео просмотрели более 600 000 раз.

Совет заявляет, что это дело подчеркивает основные недостатки в подходе Meta к модерации контента, связанного с мошенничеством, в котором участвуют знаменитости и общественные фигуры. Совет утверждает, что Meta сообщила своим членам, что "она применяет эту политику только в случае обжалования, чтобы убедиться, что изображаемое лицо не поддерживало продукт" и что "толкование того, что считается 'фальшивой личностью', может варьироваться в разных регионах и вносить несоответствие в соблюдение". В результате, по мнению Совета по надзору, "значительное" количество мошеннического контента, вероятно, ускользает от контроля.

В своей единственной рекомендации к Meta совет призвал компанию обновить свои внутренние рекомендации, дать полномочия рецензентам контента выявлять такие схемы и обучить их "показателям" AI-манипулированного контента. В заявлении представитель Meta заявил, что "многие из утверждений Совета просто неточные" и указал на тест, который он начал в прошлом году, использующий технологии распознавания лиц для борьбы с мошенничеством с привлечением знаменитостей.

"Мошенничество росло по масштабу и сложности в последние годы, управляемое беспощадными транснациональными преступными сетями", — сказал представитель. "Поскольку эта активность стала более устойчивой и сложной, наши усилия по борьбе с ней тоже".

Он добавил, что компания "тестирует использование технологий распознавания лиц, активно ведет борьбу с мошенничеством и активно предоставляет пользователям средства защиты через множество различных инструментов безопасности и предупреждений на платформе. Благодаря этому".

При этом мошенничество с использованием AI deepfake знаменитостей стало серьезной проблемой для Meta на фоне удешевления технологий AI и их более легкой доступности. В начале этого года я сообщал, что десятки страниц размещали рекламу с deepfake Илоной Маском и звездами Fox News, рекламируя добавки, которые якобы излечивают диабет. Некоторые из этих страниц много раз размещали сотни версий этих объявлений с, по всей видимости, незначительными последствиями. Meta отключила некоторые из этих страниц после моего упоминания, но аналогичные мошеннические рекламы продолжают существовать на Facebook до сих пор. Актриса Джейми Ли Кертис недавно ярко раскритиковала Марка Цукерберга за то, что тот не удалил глубокофальшивую рекламу на Facebook с ее участием (Meta удалила рекламу после ее публичных постов).

Совет по надзору аналогично подчеркнул масштаб проблемы в этом случае, отметив, что в библиотеке рекламы Meta он обнаружил тысячи видеореклам, продвигающих приложение Plinko. Он сообщил, что несколько из них содержали AI deepfake, включая рекламу с другим бразильским футбольным звездой Криштиану Роналду и самим интересом, создателем Meta, Марком Цукербергом.

Совет по надзору не единственная группа, поднявшая тревогу по поводу мошенничества на платформах Meta. Wall Street Journal недавно сообщил, что Meta "составляет почти половину всех жалоб на мошенничество, поступивших по Zelle для JPMorgan Chase между летами 2023 и 2024" и что "британские и австралийские регуляторы выявили аналогичные уровни мошенничества, исходящего от платформ Meta". Газета отметила, что Meta "остерегается" добавлять какие-либо барьеры в процессе покупки рекламы и "колеблется" при запрете рекламодателей, даже если они имеют историю совершения мошенничества.