Алгоритмы, стрельба и суд: кто виноват?
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Если алгоритмы радикализируют массового стрелка, несут ли компании ответственность?
20 мая в суде Нью-Йорка адвокаты некоммерческой организации Everytown for Gun Safety утверждали, что такие компании, как Meta, Amazon, Discord, Snap, 4chan и другие социальные медиа, несут ответственность за радикализацию массового стрелка. Компании защитили себя от обвинений в том, что их особенности дизайна — включая алгоритмы рекомендаций — способствовали распространению расистского контента среди мужчины, который убил 10 человек в 2022 году, а затем помогли осуществить его смертоносный план. Это особенно мрачное испытание популярной юридической теории: социальные сети являются продуктами, которые могут быть признаны юридически дефектными, когда что-то идет не так. Успех этого дела может зависеть от того, как суды интерпретируют Раздел 230, основополагающий элемент интернет-право.
В 2022 году Пейтон Гендрил поехал на несколько часов в супермаркет Tops в Буффало, штат Нью-Йорк, где открыл огонь по покупателям, убив 10 человек и ранив троих других. Гендрил заявил, что был вдохновлен предыдущими расистскими атаками. Он транслировал нападение в прямом эфире на Twitch и в длинном манифесте и частном дневнике, который вел на Discord, сказал, что был радикализирован частью расистских мемов и целенаправленно атаковал преимущественно чернокожее сообщество.
Судебный процесс по делу за радикализацию стрелка в Нью-Йорке выглядит как хитроумная игра в прятки. Очевидно, что компании вроде Meta и Amazon, эти легендарные электронные диспенсеры кофе с ненавистью, теперь станут мишенью для волков в мантию правосудия. Нужно же ведь кому-то ответить за то, что эти милые алгоритмы, созданные для увеличения времени, проведённого пользователями в сети, внезапно оседлали волны расистского безумия.
Адвокаты Everytown for Gun Safety пытаются доказать, что алгоритмы социальных сетей, построенные как идеальный швейцарский нож, оказались опаснее даже самого свирепого террориста. Умело скрывая собственные мотивы, эти гиганты медиа как бы не заметили, что именно их «рекомендации» подталкивают людей к созданию теорий заговора и расовой ненависти. Ведь неплохо бы перекрыть поток ненависти, который они сами и запустили в мир с помощью магии своих кодов.
Пейтон Гендрил, вдохновленный алгоритмическими шедеврами ненависти, печально известен своим выездом на «стрелковый уикенд» в супермаркет. Возникает вопрос: кто настоящий злодей в этой истории? Тот, кто натянул спусковой крючок, или те, кто нажал кнопку «показать больше» на экране? Модные термины вроде "юридически дефектный продукт" становятся чем-то вроде изящной маски под которой скрыты неприглядные перспективы столкновения технологий и психики.
Если этот судебный иск приобретет силу, мы увидим, как за кулисами юриспруденции разыгрывается драма четыре актёра — разработчики, акционеры, юристы и печально известные комментаторы. Будем надеяться, что алгоритмы и схемы не выйдут с ведрами попкорна и не будут делать ставки на исход процесса. В противном случае мир станет свидетелем возрождения старой пословицы: «Скажи мне, какие новости ты читаешь, и я скажу, кто ты».