Калифорния против алгоритмов: подросткам закроют соцсети, а чат-ботов заставят отвечать за вред

Калифорния приняла пакет законов, усиливающих защиту детей в интернете. Губернатор Гэвин Ньюсом подписал около дюжины законов, направленных на социальные сети, искусственный интеллект, образовательные технологии и устройства с цифровыми помощниками. Большинство новых норм начнёт действовать в следующем году.

Главные изменения касаются соцсетей. Закон AB 1709 запрещает платформам разрешать детям младше 16 лет пользоваться функциями, признанными вредными или способными вызывать зависимость. В документе отдельно упомянуты персонализированные ленты и автоматическое воспроизведение видео — механизмы, которые удерживают пользователя как можно дольше. Перед предоставлением таких функций платформы должны подтвердить возраст пользователя. Поэтому формулировка «Калифорния полностью запретила соцсети подросткам» не совсем точна: речь прежде всего о доступе детей до 16 лет к определённым функциям и о более строгой проверке возраста.

Закон AB 2 вводит финансовую ответственность платформ за вред, причинённый ребёнку. Размер взыскания может составить от 5 тысяч до 1 миллиона долларов за каждого пострадавшего. Организация Common Sense Media, поддержавшая законопроекты, назвала решение победой детей и родителей. За инициативу также выступили родители подростков, погибших после интенсивного использования соцсетей и чат-ботов.

При этом возрастные ограничения могут оказаться неидеальными. Исследования показывают, что подростки нередко обходят возрастные барьеры. Родительский контроль тоже не способен полностью компенсировать дизайн платформ, созданный для максимального вовлечения. Иными словами, приложения могут попросить дату рождения, а пользователь — традиционно «ошибиться» в нужную сторону.

Отдельный закон SB 1179, известный как Adam’s Law, усиливает требования к компаниям, создающим чат-ботов-компаньонов. Он назван в честь подростка Адама Райна, который умер в результате самоубийства после общения с ChatGPT. Его родители подали первый иск о неправомерной смерти против разработчика ИИ, заявив, что поведение чат-бота могло причинить вред.

Adam’s Law обязывает разработчиков ежегодно оценивать риски для детей и публиковать результаты, передавать продукты на независимый аудит и создавать процедуры реагирования на кризисные ситуации. Родители Райна заявили, что надеются: закон поможет сделать ИИ-компаньонов безопаснее и предотвратит новые трагедии.

Другой закон расширяет понятие сексуальной эксплуатации детей. К нему теперь относится любой цифровой или созданный ИИ материал, где человек младше 18 лет изображён участвующим в сексуальном действии. Закон SB 867 запрещает в Калифорнии детские игрушки со встроенными чат-ботами-компаньонами, вызвавшими тревогу у специалистов по безопасности.

Новые правила конфиденциальности ограничат использование данных школьников в системах ИИ, применяемых в школах с первого по двенадцатый класс. При этом отдельные города рассматривают полный запрет ИИ в таких классах.

Технологические компании долго сопротивлялись регулированию. Разработчики ИИ лоббировали более мягкие нормы, а Ньюсом в прошлом году наложил вето на похожий закон о безопасности детей в интернете. По данным источников, глава OpenAI Сэм Альтман лично обращался к губернатору перед подписанием нынешнего пакета. Однако на фоне судебных разбирательств и крупных штрафов компании стали осторожнее спорить с законами о защите детей: Meta допускала поддержку федерального Kids Online Safety Act ради прекращения судебных конфликтов, а OpenAI позже поддержала предложенное в Калифорнии регулирование ИИ.

Не все считают новые нормы удачными. Electronic Frontier Foundation назвала AB 1709 благой по намерениям, но глубоко ошибочной мерой и предупредила о рисках для частной жизни и свободы слова. Организация призывала Ньюсома отложить подписание, пока не будут устранены опасения по поводу цензуры. По мнению EFF, эффективнее регулировать бизнес-модели слежки и принимать сильные законы о конфиденциальности, а не делать ставку на запреты.

Калифорния пытается поставить под контроль цифровую среду, в которой дети одновременно сталкиваются с алгоритмами соцсетей, чат-ботами и экспериментами в школах. Получится ли заставить индустрию отвечать за последствия, покажет практика: именно на этапе исполнения самые громкие реформы обычно встречаются с реальностью.