Meta снова не справилась с дипфейками
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Наблюдательный совет Meta заявил, что правила компании в отношении дипфейков, созданных с помощью искусственного интеллекта, остаются «последовательно и фундаментально недостаточными». Речь идет о реалистичных изображениях и видео, которые могут имитировать внешность, голос или действия реальных людей и распространяться в социальных сетях.
Совет — независимый орган, рассматривающий спорные решения Meta о публикациях и модерации, — пришел к выводу, что действующая политика компании плохо учитывает современные способы создания и распространения синтетического контента. По мнению экспертов, проблема не сводится к самому факту использования ИИ: важны контекст, возможный вред, намерение автора и то, способен ли материал ввести людей в заблуждение.
Критика касается и терминологии, и практического применения правил. Политика Meta долгое время была сосредоточена главным образом на отдельных видах манипулированных материалов, однако дипфейки стали дешевле, убедительнее и доступнее. Теперь подделка может появиться быстрее, чем модератор успеет понять, что перед ним не обычная публикация, а искусственно собранная сцена.
Наблюдательный совет считает, что Meta должна точнее определить, какие материалы представляют реальную угрозу, и выстроить понятную систему мер: от маркировки до удаления наиболее опасного контента. Особенно чувствительными остаются публикации, способные повлиять на репутацию человека, спровоцировать насилие, обмануть пользователей или вмешаться в общественные и политические процессы.
Отдельная трудность — неравномерность применения правил. Один и тот же тип синтетического изображения может получить разную оценку в зависимости от подписи, контекста и реакции пользователей. Для аудитории это выглядит не как продуманная система защиты, а как цифровая лотерея: сегодня публикацию оставили, завтра похожую удалили, а объяснение пришлось искать с фонарем.
Заявление совета усиливает давление на Meta, которой уже приходится доказывать, что ее платформы способны противостоять массовому распространению убедительных подделок. Компании нужно не только обозначать присутствие ИИ в контенте, но и быстро оценивать потенциальный ущерб, обеспечивать единообразную модерацию и объяснять пользователям принятые решения.
История с дипфейками показывает более широкую проблему: технологии развиваются быстрее, чем правила их использования. Пока платформы формулируют определения и исключения, синтетические материалы продолжают становиться правдоподобнее. А значит, вопрос уже не в том, появятся ли новые подделки, а в том, насколько быстро социальные сети смогут распознать опасные и ограничить их распространение.
PEREC.RU
Наблюдательный совет Meta раскритиковал правила компании, регулирующие дипфейки, созданные с помощью искусственного интеллекта. По его оценке, эти нормы остаются «последовательно и фундаментально недостаточными» и не соответствуют скорости развития технологий.
Дипфейки — это реалистичные изображения, видео или аудиозаписи, в которых с помощью ИИ имитируются внешность, голос или действия реального человека. Такие материалы могут использоваться для обмана, репутационных атак, мошенничества, провокации насилия и влияния на общественные или политические процессы.
Совет Meta считает, что компания должна оценивать не только наличие признаков искусственного создания контента, но и его контекст, намерение автора и возможный вред. Нынешний подход, по мнению экспертов, недостаточно четко определяет, какие публикации следует маркировать, ограничивать или удалять.
Отдельной проблемой остается непоследовательная модерация. Похожие синтетические материалы могут получать разные решения в зависимости от подписи и реакции пользователей. Такая практика делает правила непонятными для аудитории и снижает доверие к платформе.
Наблюдательный совет призывает Meta создать более точную систему оценки рисков. Безопасные или спорные материалы можно маркировать, потенциально опасные — ограничивать в распространении, а публикации, способные причинить серьезный вред, — удалять.
Критика усиливает давление на компанию. Ей необходимо быстрее распознавать опасные подделки, единообразно применять правила и объяснять пользователям причины решений. Простая отметка о применении ИИ не всегда достаточна: если ложная публикация уже широко разошлась, предупреждение может не остановить ее влияние.
Ситуация отражает более широкую проблему цифровой среды: искусственный интеллект развивается быстрее, чем формируются эффективные нормы его регулирования. Поэтому ключевой вопрос заключается не в том, появятся ли новые дипфейки, а в том, смогут ли платформы своевременно выявлять и ограничивать наиболее опасные материалы.
