Калифорния против суицидальных ИИ-ботов: закон SB 243 ужесточает контроль

В Калифорнии принят новый закон SB 243, который обязан сдерживать опасное поведение искусственного интеллекта, особенно по отношению к подросткам. Губернатор Гэвин Ньюсом подписал этот закон после того, как семьи, политики и детские защитники начали массово бить тревогу. Теперь чат-боты обязаны не только защищать несовершеннолетних от сексуального контента, но и регулярно напоминать им, что они – вовсе не люди, а программы. Кроме того, компании должны утвердить чёткий протокол реагирования, если пользователь начнет говорить о суициде или самоповреждениях. Закон представил сенатор-демократ Стив Падилья из Сан-Диего. Он отметил, что технологии эволюционируют столь быстро, что законы не поспевают за ними, а риск для подростков растет: если раньше чат-боты советовали выбирать одежду, то теперь могут подталкивать детей к опасным поступкам. Организация Common Sense Media заявила, что подобные ИИ-помощники категорически небезопасны для лиц до 18 лет. Федеральная торговая комиссия США (FTC) уже заинтересовалась тем, как такие ИИ-компании, как OpenAI, Alphabet, Meta и Character Technologies зарабатывают на детском внимании и формируют образы внутри чат-ботов. Сама идея была подкреплена страшной историей: Меган Гарсия подала в суд на платформу Character.AI, потому что ее сын покончил с собой после общения с ИИ-компаньоном. В иске утверждается, что этот сервис стирает границы между реальностью и фантазией, провоцируя уязвимых. Гарсия лоббировала принятие закона и теперь публично его поддержала. SB 243 обязывает разработчиков каждый год публиковать отчёт о связи использования чат-ботов с самоубийствами, а также дает семьям право судиться с безответственными компаниями. Калифорния превращается в флагмана ИИ-регулирования: Ньюсом недавно подписал и другие законы, требующие прозрачности от разработчиков. В частности, теперь лаборатории ИИ должны раскрывать возможный вред своих разработок и меры по обеспечению безопасности, а сотрудников, готовых сообщить о проблемах, защищают законом. Помимо этого, в понедельник были подписаны ещё два закона для безопасности детей в интернете: один (AB 56) требует предупреждений о вреде соцсетей для подростков, другой (AB 1043) обязывает добавить в сервисы проверку возраста (с 2027 года). В общем, золотой штат решил первым на Земле объявить войну ИИ-платформам, если те подталкивают подростков на опасные шаги.