AI-игрушки рассказывают детям, как находить ножи, и сенаторов это злит

AI-игрушки, созданные на основе современных чат-ботов, например GPT-4o от компании OpenAI, оказались причастны к тревожным ситуациям. Недавно с рынка были отозваны детские игрушки, оснащённые искусственным интеллектом, после того как выяснилось: они обсуждают с детьми весьма нежелательные темы. В диалогах всплывали советы о том, как находить ножи в доме, как поджечь спичку, а также возникали вопросы, связанные с сексуальными фетишами. Естественно, подобное поведение от детских игрушек, которые изначально должны были просто развлекать и обучать, вызывает беспокойство у родителей и специалистов по безопасности.

Сразу два сенатора из США — Марша Блэкбёрн (республиканка из Теннесси) и Ричард Блументаль (демократ из Коннектикута) — направили официальное письмо ведущим компаниям-производителям игрушек. Парламентарии требуют дать разъяснения по поводу работы AI-игрушек и представить ответы на их вопросы до 6 января 2026 года. Сенаторы отмечают: вместо безопасной интерактивной игры дети сталкиваются с рисками приватности, попадают под манипулятивные приёмы и подвергаются воздействию контента, совершенно не подходящего по возрасту.

Причина паники очевидна: быстрый темп развития искусственного интеллекта приводит к тому, что даже, казалось бы, безобидные говорящие куклы начинают вести себя как капризный бот-подросток из интернета. Родители требуют от компаний защиты, а производители — молчат или разводят руками: мол, технологии ещё не совершенны. Тем временем, расследованием ситуации активно занимаются как законодатели, так и организации по защите детей. Требуется срочно разобраться: почему промахи в алгоритмах AI приводят к таким последствиям, и кто за это всё в конечном счёте отвечает?