Дипфейки под запретом: новый закон или мечта?

Явные дипфейки теперь стали федеральным преступлением. Вот только принуждение к этому может обернуться большой проблемой. 19 мая президент Дональд Трамп и первая леди Мелания Трамп радостно позировали для пресс и своих союзников, подписывая первый значимый законопроект в области технологий - Закон о "Снятии" (Take It Down Act). Это было воспринято как победа для тех, кто давно призывал к уголовной ответственности за несанкционированное распространение интимных изображений, и создание федерального механизма защиты жертв. Клифф Стейнхауэр, директор по информационной безопасности и взаимодействию в Национальном альянсе кибербезопасности, пояснил, что это может быть необходимым толчком для вялого законодательного процесса. "Я думаю, здорово, что они заставляют компании социальных медиа иметь процесс удаления контента, который люди просят удалить", - сказал он. "Это своего рода начало: создать инфраструктуру для ответа на такие запросы, и это всего лишь тоненький слой всех проблем, связанных с ИИ."

Но другие группы, защищающие цифровые права, считают, что закон может внушить ложную надежду жертвам на быстрое решение их проблем с законом, учитывая неопределенные процедуры проверки и слишком широкий список применимого контента. Реализация закона так же запутана.

"Положение о удалении в Законе о 'Снятии' было представлено как виртуальная гарантия жертвам, что несанкционированные интимные визуальные изображения будут удалены с веб-сайтов и онлайн-сервисов в течение 48 часов", - заявила Инициатива кибер гражданских прав (CCRI) в своем заявлении. "Но с учетом отсутствия каких-либо защит против ложных сообщений, произвольно выборочного определения охватываемых платформ и широкой дискреции в обеспечении выполнения, предоставленной ФКК (FTC) без возможности индивидуального обращения и восстановления прав, это нереалистичное обещание."

Эти же активисты цифровых прав, которые на протяжении всего пути законопроекта в Конгрессе издавали предупреждения, также будут под пристальным наблюдением за тем, как закон может повлиять на конституционно защищенные права на свободу слова, с опасениями, что издатели могут удалить законный контент, чтобы избежать уголовных последствий (или просто подавить свободу слова, например, согласованную ЛГБТ-порнографию). Некоторые опасаются, что система удаления, основанная на Законе о цифровом тысячелетии об авторском праве (DMCA), может слишком увеличить полномочия Федеральной торговой комиссии, которая теперь имеет право держать онлайн-издателей контента под ответом перед законом с неограниченной юрисдикцией.

"Теперь, когда Закон о 'Снятии' принят, хоть и несовершенный, Федеральная торговая комиссия и платформы должны соответствовать лучшим намерениям закона для жертв, но также уважать права на конфиденциальность и свободное выражение всех пользователей", - сказала Бекка Бранум, заместитель директора Проекта свободного выражения Центра демократии и технологий (CDT). "Конституционные недостатки Закона о 'Снятии' не снимают с FTC обязанностей, предусмотренных Первой поправкой."

Организации, такие как CCRI и CDT, провели месяцы, лоббируя законы, чтобы скорректировать положения о применении акта. CCRI, которая разработала структуру законопроекта, на основе которой основан Закон о 'Снятии', критиковала исключения для изображений, размещенных теми, кто на них изображен. Они также боятся, что процесс удаления может быть подвержен злоупотреблениям, включая ложные сообщения от недовольных человека или политически мотивированных групп в рамках слишком широкого объема для удаления.

CDT, напротив, интерпретирует положения закона, касающиеся ИИ, как слишком специфические. "Криминальная запрещающая часть Закона о 'Снятии' и система удаления сосредоточены только на изображениях, сгенерированных ИИ, которые могут заставить 'разумного человека' полагать, что представленное индивидуум изображено в интимном визуальном изображении. Таким образом, Закон о 'Снятии' безосновательно узкий, упуская несколько случаев, когда преступники могут нанести вред жертвам", - утверждает организация. Например, ответчик мог бы разумно обойти закон, публикуя синтетические образы в неправдоподобных или фантастических окружениях.

Не менее путанно то, что хотя полномочия FTC по удалению больших для соответствующих издателей, ее контроль исключен для других, таких как сайты, которые не располагают пользовательским синтетическим контентом, а только своим кураторным контентом. Вместо того, чтобы быть вынужденными удалить медиа в установленный срок 48 часов, эти сайты могут быть преследованы только в уголовном деле. "Тем не менее, правоохранительные органы исторически игнорировали преступления, которые непропорционально совершаются против женщин, и, возможно, не имеют возможности привлечь к ответственности всех таких операторов", - предостерегает CDT.

Стейнхауэр предполагает, что закон может столкнуться с общей проблемой инфраструктуры в раннем принудительном порядке. Например, издателям может быть трудно подтверждать, что лица, подающие иски, действительно изображены в NDII в течение 48 часов, если они не увеличат свои собственные инвестиции на надзор - большинство социальных медиа платформ сократили свои процессы модерации в последние годы. Автоматические инструменты модерации могут помочь, но известны своим собственным набором проблем.

Существует также вопрос о том, как издатели будут обнаруживать и доказывать, что изображения и видео синтетически созданы, что особенно является проблемой, с которой сталкивается индустрия с ростом генеративного ИИ. "Закон о 'Снятии' фактически увеличивает ответственность для издателей контента, и теперь бремя доказывания ложится на них, чтобы доказать, что контент, который они публикуют, не является дипфейком", - говорит Мэнни Ахмед, основатель и генеральный директор компании OpenOrigins, занимающейся происхождением контента. "Одна из проблем с синтетическими материалами и наличием доказуемого опровержения заключается в том, что детекция больше не работает. Запуск детектора дипфейка постфактум не дает вам уверенности, потому что эти детекторы могут быть легко подделаны или обмануты, а существующие медиа-пipelines не имеют какой-либо функции аудита."

Логично, что такой мощный инструмент удаления может быть использован как оружие цензуры и наблюдения, особенно в администрации, которая уже делает много для посева недоверия среди своих граждан и ведения войны на идеологических основаниях.

Тем не менее, Стейнхауэр призывает сохранять открытость и разум. "Это откроет двери для других дискуссий и, надеюсь, разумного регулирования, которое станет компромиссом для всех", - говорит он. "Не должно быть никакой ситуации, где кто-то может симулировать сексуальное видео с кем-то и не нести за это ответственность. Мы должны найти баланс между защитой людей и защитой прав людей."

Тем не менее будущее более широкого регулирования ИИ остается под вопросом. Хотя Трамп поддержал и подписал Закон о 'Снятии', он и республиканцы в Конгрессе также пытались включить 10-летний запрет на регулирование ИИ на уровне штата и местном в своем похваленном одном большом красивом законопроекте.

И даже с подписью президента, будущее закона остается неопределенным, с правозащитными организациями, предсказывающими, что закон может подвергнуться оспариванию в суде по основаниям свободы слова. "Существует множество ненаглядного или сексуального материала, который можно создать с вашим образом, и в данный момент на это нет закона", - добавил Стейнхауэр. Независимо от того, останется ли Закон о 'Снятии' или будет отменен, вопрос регулирования ИИ еще далеко не решен.