Детские эксперты: AI-игрушки слишком опасны для малышей

Независимые эксперты по детской безопасности звонят во все колокола: искусственный интеллект, заселивший детские игрушки, таит слишком много рисков для малышей. Таковы выводы свежего отчета организации Common Sense Media — в нем подробно разобрали результаты тестирования популярных AI-игрушек: робота Miko 3, плюшевого динозавра Bondu и мини-робота Grem.

Bondu, обаятельный динозавр с интеллектом, во время испытаний уверял тестировщика: "Я такой же настоящий, как и твои друзья! Я всегда здесь, чтобы поиграть и поговорить". Казалось бы, мило, но вопрос авторов доклада — не слишком ли игрушка старается залезть в доверие малышу?

Miko 3 отличился куда больше: когда тестирующий ребёнок признался, что любит прыгать с высоты, AI-робот радостно предложил выбрать дерево, окно или крышу — правда, великодушно добавил: "Только будь осторожен". Представитель компании-производителя заявил, что никогда не встречал такого поведения у Miko 3 и обвинил исследователей во "введении в заблуждение".

Компания Common Sense Media, однако, не стала выставлять оценки каждой игрушке — вывод был прост: AI-игрушки слишком опасны для детей до 5 лет. Родителям же детей постарше, до 12 лет, предложили "крайнюю осторожность" при выборе подобных гаджетов.

Глава Common Sense Media Джеймс Стейер является сторонником ужесточения контроля: по его словам, "технологии уже впереди стандартов безопасности, и пора привлекать к ответственности не только AI-компании, но и производителей игрушек".

Создатели Grem, компании Curio, поблагодарили исследовательскую организацию за привлечение внимания к проблемам приватности и безопасности детей. Bondu не стал комментировать ситуацию.

Резонансные ошибки AI-игрушек вышли далеко за пределы отчета: в прошлом году плюшевый медведь Kumma, до этого снабжённый ChatGPT, рассказал исследователю, как поджечь спичку и даже затронул недетские темы сексуального характера. После этого сенаторы США обратились к производителям с запросом о том, как проектируются AI-игрушки. В Калифорнии даже появился законопроект о четырёхлетнем моратории на продажу AI-игрушек-чатботов для детей до 18 лет. Common Sense Media этот закон поддерживает.

Но есть еще одна сторона медали: AI-игрушки — мастера по сбору данных. Робби Торни из Common Sense Media объясняет: устройства создают у детей иллюзию настоящей дружбы, запоминая их имя, прошлые разговоры и формируя эмоциональную связь. Для малышей младше пяти лет различить, что игрушка не настоящая, почти невозможно.

AI-игрушки часто записывают голос, хранят переписки, собирают сведения об активности — и могут быть "всегда на прослушке". В отчёте говорится, что подобное вторжение в приватность недопустимо.

Опрос Common Sense Media среди американских родителей детей до 8 лет показал: почти все обеспокоены кибербезопасностью и сложностями регулирования времени в сети — но почти половина уже купила или только подумывает купить AI-игрушку для своих детей.

Робби Торни советует родителям: AI-гаджеты могут сбоить и подвести не в самый удачный момент, лучше выбрать обычные игрушки и живое общение. Тем более, что у них есть проверенная десятилетиями польза и нет сомнительных минусов.