Забор вокруг ямы
Цена ответственности Big Tech
Соглашение Meta на 17 миллиардов долларов выглядит как высокий забор вокруг ямы глубиной в милю на детской площадке. Дети реже падают по дороге к качелям, но сама яма никуда не исчезает.
Полные победы в борьбе за безопасность детей в интернете редки. Семьи чаще получают компромиссные результаты: соглашение вместо судебного решения, функцию, которую компания не включает по умолчанию, или выплату, которая для корпорации оказывается лишь округлением в годовом отчёте. Такие победы всё равно важны. Но у них есть цена: поскольку компромисс можно оспаривать, защитникам приходится снова и снова публично доказывать, что он чего-то стоит.
Эту цену автор статьи наблюдал у федерального суда в Окленде. Родители погибших детей — Lori Schott, Shannon Heacock, Erin Popolo, Julianna Arnold, Mary Rodee, Victoria Hinks и Paul Hinks — перед стеной телекамер вновь рассказывали о худшем моменте своей жизни. Рядом стояли молодые люди, которым не нужно было участвовать в этом, но они пришли поддержать семьи.
В цифре соглашения такая работа не отражена. В ней нет строки за необходимость снова переживать смерть ребёнка перед незнакомой аудиторией. СМИ обычно пишут «Meta заключила соглашение», а не «вот что людям пришлось пережить, чтобы Meta на это согласилась».
Автор, в прошлом выступавшая перед камерами, отмечает: публичность не бывает бесплатной. Родитель, который снова говорит о гибели ребёнка, или молодой человек, стоящий с фотографией погибшего вместо того, чтобы заниматься собственной жизнью, платит личную цену, которую соглашение никогда не компенсирует.
В 17 миллиардах предусмотрены системы подтверждения возраста и независимые аудиторы. Но там нет расходов на эмоциональную травму родителей, которым приходится возвращаться к трагедии ради нескольких секунд эфирного времени.
По мнению автора, устойчивое решение должно менять не только публичную историю, но и саму бизнес-модель платформ. В Калифорнии закон AB 1709, внесённый членом Ассамблеи Josh Lowenthal и подписанный губернатором Gavin Newsom 10 сентября, запрещает компаниям внедрять аддиктивные функции для пользователей младше 16 лет. Это не запрет контента, а ограничение дизайна: платформа может работать как прежде для взрослых, но не должна выдавать 12-летнему тот же продукт, оптимизированный для максимального вовлечения.
Законопроект AB 2 того же автора предусматривает ответственность крупных платформ — до 1 миллиона долларов за каждого пострадавшего ребёнка или трёхкратный размер фактического ущерба — если обычная небрежность при разработке продукта причинит вред несовершеннолетнему. В отличие от единовременной суммы по соглашению, такая ответственность растёт с каждым новым пострадавшим и действует по каждому делу отдельно.
Вместе эти меры меняют стимулы до причинения вреда, а не оплачивают последствия спустя годы. Соглашение Meta предусматривает десятилетний надзор, который закончится, после чего компания сможет вести новые переговоры. AB 1709 не предлагает соблюдать правила лишь до окончания срока: он навсегда убирает возможность использовать прежнюю модель для детей.
Пока родители выступали в Сакраменто, лоббисты Meta добивались исключений. По данным Politico, компания предложила председателю судебного комитета Сената штата Тому Умбергу формулировки, которые позволили бы платформам полностью освобождаться от действия AB 2. В прошлом году Meta потратила на лоббизм в Калифорнии 4,6 миллиона долларов — больше, чем в любой год с начала работы в штате в 2010 году, — и создала новый политический комитет для поддержки кандидатов, выступающих за более мягкое регулирование технологий.
Забор построен, но яма осталась. Люди, которые продолжают указывать на неё за свой счёт, заслуживают не очередной красивой повязки, а изменений, способных остановить бизнес-модель, основанную на функциях, вызывающих зависимость. Материал отражает мнение автора. Lennon Torres — бывшая участница Dance Moms, транс-активистка и выпускница University of Southern California, работающая в Heat Initiative ради безопасности детей и подростков в интернете.
PEREC.RU
Материал посвящён человеческой цене, которую семьи платят в борьбе с крупными технологическими компаниями за безопасность детей в интернете. Центральная мысль автора: соглашение Meta на 17 миллиардов долларов выглядит как крупная победа, но фактически представляет собой ограждение вокруг уже существующей проблемы. Оно может уменьшить часть рисков, однако не устраняет бизнес-модель платформ, основанную на функциях, стимулирующих зависимое и чрезмерное вовлечение пользователей.
Полные победы в подобных делах редки. Вместо судебного решения семьи получают компромиссы: денежные выплаты, отдельные изменения дизайна и надзор со стороны аудиторов. Такие меры имеют значение, но требуют от активистов и родителей продолжать публично доказывать их необходимость. Родители погибших детей — Lori Schott, Shannon Heacock, Erin Popolo, Julianna Arnold, Mary Rodee, Victoria Hinks и Paul Hinks — выступили у федерального суда в Окленде и снова рассказали о своих потерях перед камерами. К ним присоединились молодые люди, пришедшие выразить солидарность.
Автор подчёркивает, что соглашение не отражает эмоциональную стоимость этой публичности. В его финансовых пунктах предусмотрены системы подтверждения возраста и независимые аудиторы, но нет компенсации за повторное переживание смерти ребёнка и необходимость рассказывать о ней незнакомой аудитории. Именно поэтому компромиссная победа может быть более изнурительной, чем окончательное судебное решение.
В качестве более долгосрочного решения предлагается менять стимулы компаний до того, как возникает вред. В Калифорнии закон AB 1709, внесённый Josh Lowenthal и подписанный губернатором Gavin Newsom 10 сентября, запрещает внедрять аддиктивные функции для пользователей младше 16 лет. Это не запрет контента, а ограничение дизайна продукта: платформа может продолжать работать для взрослых, но не должна передавать ребёнку тот же вариант сервиса, который оптимизирован для максимального вовлечения взрослой аудитории.
Законопроект AB 2, также связанный с Josh Lowenthal, предусматривает для крупных платформ ответственность до 1 миллиона долларов за каждого пострадавшего ребёнка или до трёхкратного размера фактического ущерба, если обычная небрежность при проектировании продукта причиняет вред несовершеннолетнему. В отличие от фиксированной суммы соглашения, такая ответственность возникает по каждому делу и может увеличиваться с каждым пострадавшим.
Автор противопоставляет временный десяти летний надзор по соглашению Meta постоянным требованиям закона. После окончания срока надзора компания сможет вновь вести переговоры, тогда как AB 1709 должен навсегда убрать возможность использовать прежний дизайн для детей.
Одновременно с выступлениями родителей в Сакраменто лоббисты Meta добивались исключений. По данным Politico, компания обращалась к председателю судебного комитета Сената Калифорнии Tom Umberg с предложением разрешить платформам полностью освобождаться от AB 2. В прошлом году Meta потратила на лоббизм в штате 4,6 миллиона долларов — больше, чем за любой год с начала лоббистской деятельности в Калифорнии в 2010 году, — а также создала политический комитет для поддержки кандидатов, выступающих за более мягкое регулирование технологий.
Итоговая позиция статьи такова: денежное соглашение помогает управлять последствиями и репутацией, но не обязательно исправляет продукт. Для реальной защиты детей нужны постоянные правила, меняющие саму экономическую мотивацию платформ, а не бесконечные публичные выступления родителей. Материал является авторским мнением. Его автор Lennon Torres — бывшая участница Dance Moms, транс-активистка, выпускница University of Southern California и сотрудница Heat Initiative, занимающаяся безопасностью молодых людей в интернете.
