Meta рискует репутацией из-за глубоких фейков

Наблюдательный совет, который отвечает за контроль над деятельностью социальной гигантской компании Meta (владеющей Facebook и Instagram), заявил, что компания делает недостаточно для защиты обычных пользователей от сексуализированных дипфейков – поддельных изображений и видео, сгенерированных с помощью искусственного интеллекта.

Совет вынес вердикт после рассмотрения дела, связанного с тем, что на платформе Instagram появилось видео, где обычную женщину без её согласия "поместили" в откровенную сцену благодаря технологиям дипфейка. Совет отметил, что тревожная тенденция с дипфейками только набирает обороты, а алгоритмы Meta реагируют на такие жалобы слишком медленно или вообще их игнорируют.

Meta ранее ввела некоторые фильтры и автоматические блокировки для обнаружения дипфейков, однако Совет считает, что этого недостаточно: технологии могут не распознавать новые трюки злоумышленников, а обычные пользователи оказываются без реальной защиты. Проблема также и в том, что нынешние инструменты жалоб сложны и неповоротливы, а персонал компании нередко допускает ошибки модерации.

Совет рекомендует Meta срочно обновить внутренние политики, упростить систему жалоб, а также повысить прозрачность процессов: чтобы пользователи чётко понимали, что делать и куда обращаться в случае травли с помощью дипфейков. Специалисты отмечают, что раскрытие подобных ситуаций повышает давление на IT-компании, стимулируя разработки более эффективных способов защиты.