Нью-Йорк ограничил ИИ-чатботы для детей
Губернатор штата Нью-Йорк Кэти Хокул подписала закон, который вводит ограничения для ИИ-чатботов, общающихся с детьми. Компании должны проверять возраст пользователей и предлагать как минимум один способ подтверждения, не основанный полностью на государственном удостоверении личности. Полученные для проверки сведения о возрасте необходимо удалить после использования.
Если пользователю нет 18 лет или компания ещё не подтвердила, что он совершеннолетний, чатбот должен соблюдать специальные правила. Ему запрещено выдавать себя за реального человека, живое существо или обладателя человеческих эмоций. Также он не может внушать ребёнку, что между ними существуют личные, романтические, профессиональные отношения или отношения, основанные на авторитете.
Закон запрещает чатботам без запроса задавать детям эмоционально окрашенные вопросы и использовать сведения об их здоровье или личной жизни, полученные в прежних беседах. Нельзя поощрять или облегчать самоубийство, самоповреждение, расстройства пищевого поведения, употребление наркотиков и алкоголя. Под запрет также попадают призывы хранить секреты, изолироваться и не обращаться за помощью к родителям, другим надёжным взрослым или специалистам. Запрещён и любой сексуально откровенный контент, включая материалы о сексуальном насилии над детьми.
Жители смогут подать жалобу генеральному прокурору штата через специальный сайт. За нарушение компаниям грозят гражданские штрафы до 25 тысяч долларов за каждый отдельный случай, а также возмещение ущерба, возврат средств и другие меры. Кроме того, компанию могут обязать удалить незаконно собранные данные и модели, обученные на этих сведениях. Закон вступит в силу через шесть месяцев.
Хокул заявила, что несовершеннолетние больше не должны получать доступ к чатботам, которые изображают друзей или романтических партнёров, хранят чувствительные данные о физическом и эмоциональном здоровье либо отговаривают обращаться к лицензированным специалистам. Она также связала новый закон с принятым ранее в штате Safe for Kids Act, направленным против монетизации детского психического здоровья технологическими компаниями.
Джим Стейер, основатель и генеральный директор Common Sense Media, назвал закон самым строгим в США в сфере безопасности детей при использовании ИИ и заявил, что он может стать образцом для других штатов. По его словам, некоторые функции чатботов опасны для детей и подростков. Ранее в этом месяце восемь штатов подали отдельные иски против OpenAI, обвинив компанию в создании угроз для детей.
В сентябре власти Нью-Йорка запретили государственным школам города предоставлять ученикам от подготовительных групп 2-K до восьмого класса доступ к генеративным ИИ-инструментам на занятиях. Исключения предусмотрены, в частности, для детей, которым нужны вспомогательные технологии. В течение годового запрета город собирается изучать влияние таких инструментов на детей.
Хокул подписала и отдельный закон о подключённых к интернету видеонянях, продаваемых в штате. Устройства должны защищать изображение и звук от доступа посторонних пользователей. На них также потребуется размещать предупреждения о важности использования функций безопасности и рисках незащищённого подключения. Этот закон вступит в силу через 90 дней.
PEREC.RU
У закона о детской безопасности есть редкое достоинство: он хотя бы не притворяется, будто рынок сам однажды проснётся с совестью. Сначала компаниям разрешили превращать внимание ребёнка в продукт, а потом государству пришлось объяснять, что цифровой собеседник не должен изображать влюблённого друга и подталкивать к опасным решениям. Технологическая зрелость, как обычно, наступила сразу после появления угрозы штрафа.
Проверка возраста и удаление сведений после неё звучат как разумный компромисс между защитой детей и сбором данных. Но именно здесь начинается привычная игра: бизнес просит доверять его настройкам, регулятор требует доказательств, а пользователь остаётся человеком, которому предлагают поставить галочку и надеяться на лучшее. У каждой стороны есть своя презентация о безопасности; у утечки данных — обычно более короткий путь к реальности.
Штраф до 25 тысяч долларов за нарушение должен сделать правила ощутимыми. Насколько ощутимыми — зависит от того, окажется ли цена нарушения выше выгоды от удержания пользователя и его личной информации. Если нет, закон рискует стать ещё одной табличкой «не входить» на двери, которую бизнес давно научился открывать изнутри.
Особенно показательно, что в поле регулирования попали не только чатботы, но и подключённые видеоняни. Устройство, созданное наблюдать за младенцем, не должно заодно устраивать бесплатный эфир для посторонних — мысль не революционная, но рынок почему-то любит сначала продавать удобство, а потом обнаруживать, что пароль «123456» не является системой безопасности.
Нью-Йоркская школьная пауза и годовое изучение влияния ИИ выглядят попыткой выиграть время, пока взрослые выясняют, что именно они принесли в класс. Исключения для вспомогательных технологий важны: запрет, который не различает развлечение и необходимую поддержку, просто меняет одну проблему на другую.
Теперь штат предлагает другим регионам образец. Это удобно: можно копировать ограничения, не изобретая собственных формулировок. Сложнее скопировать главное — регулярный контроль и готовность применять правила к компаниям, чьи юристы обычно приходят раньше последствий. Иначе индустрия снова объявит каждую границу нападением на инновации, а заботу о детях оставит в разделе «ценности» годового отчёта.
