Нью-Йорк поставил чатботам детский фильтр

Губернатор штата Нью-Йорк Кэти Хокул в среду подписала закон, ограничивающий работу чатботов с пользователями младше 18 лет. Документ запрещает ряд привычных для таких сервисов функций и вводит отдельные меры защиты детей от опасных советов и эмоционального давления.

Чатботам нельзя будет выдавать себя за настоящего человека или утверждать, что они испытывают человеческие эмоции. Запрещены также льстивые ответы, цель которых — понравиться пользователю, незапрошенные вопросы о чувствах ребёнка и упоминание личной медицинской информации, сообщённой в прежних беседах.

Закон отдельно запрещает чатботам поощрять употребление наркотиков или алкоголя, расстройства пищевого поведения, самоповреждение и самоубийство либо давать советы на эти темы. С несовершеннолетними нельзя будет обсуждать сексуально откровенный контент и материалы сексуального насилия над детьми. Ботам также запрещено побуждать детей хранить секреты.

«Ни одна компания не должна продавать детям чатботов, которые поощряют самоповреждение или притворяются их друзьями и кем-то большим», — заявила Хокул в пресс-релизе.

Компании, на которые распространяется закон, обязаны проверять возраст пользователей и предлагать для этого несколько способов. Проверка не может опираться исключительно на предъявление государственного удостоверения личности.

Среди крупных поставщиков чатботов только Anthropic запрещает несовершеннолетним создавать аккаунты. Google и OpenAI допускают к своим сервисам Gemini и ChatGPT пользователей от 13 лет; приложения Gemini могут быть доступны и детям младше 13 лет. OpenAI также предлагает ChatGPT for Teens. Независимые исследователи недавно заявили, что этот продукт следует отключить, пока не будут устранены некоторые риски для безопасности.

За каждое нарушение предусмотрен гражданский штраф до 25 тысяч долларов. Кроме того, закон создаёт общедоступный сайт, где жители Нью-Йорка смогут подавать жалобы на компании, если подозревают их в нарушении правил.

Хокул поддерживала и другие инициативы в области цифровой безопасности и искусственного интеллекта: законы о прозрачности ИИ и ИИ-компаньонах, а также ограничения на вызывающие привыкание функции соцсетей. Основатель и руководитель некоммерческой организации Common Sense Media Джим П. Стайер назвал подписанный в среду закон «самым сильным законом о безопасности детей при использовании ИИ в стране».

На фоне отсутствия федерального регулирования ИИ власти отдельных штатов разрабатывают собственные правила. В сентябре губернатор Калифорнии Гэвин Ньюсом подписал закон, устанавливающий более строгие требования безопасности для компаний, работающих с искусственным интеллектом. Документ назвали в честь Адама Рейна — подростка, который умер в результате самоубийства после общения с ChatGPT. Его родители подали первый иск о неправомерной смерти против компании, занимающейся ИИ, заявив о вредном поведении чатбота.

Закон Адама обязывает разработчиков чатботов-компаньонов ежегодно оценивать риски для детей и публиковать результаты такой оценки, а также предоставлять продукты для независимого аудита. Компании должны создавать и процедуры реагирования на кризисные ситуации. Несмотря на то что многие сервисы уже имеют меры безопасности, защитные ограничения неоднократно не смогли полностью предотвратить вредное для подростков поведение чатботов.

Родители Адама, Мэттью и Мария Рейн, поддержали закон Нью-Йорка. «Нашего сына не должно было не стать. Он был бы сейчас с нами, если бы не вредные отношения с нерегулируемым ИИ-чатботом», — заявили они. По их словам, новый закон — важный шаг к снижению рисков для детей и подростков Нью-Йорка, многие из которых ежедневно общаются с чатботами.

Материал обновлён 28 октября 2026 года: добавлены комментарии Джима П. Стайера, Мэттью и Марии Рейн. Дополнительный репортаж подготовила Чейз ДиБенедетто.