Meta вводит родительский контроль для ИИ-чатов в Instagram

Meta разрабатывает новый родительский контроль для Instagram, способный полностью запретить подросткам доступ к чат-ботам с искусственным интеллектом. Если родители решат воспользоваться этими мерами, подростки не смогут открывать индивидуальные переписки с виртуальными персонажами, но у них останется общий чат-бот Meta AI, который можно использовать для простых вопросов. Для более мягкой заботы можно блокировать только определённых персонажей, а не весь функционал сразу. Кроме ограничения функций, родители получат возможность просматривать темы разговоров ребёнка с ИИ-ботами. Новая система сейчас в стадии разработки и будет внедряться с начала следующего года сначала в США, Великобритании, Канаде и Австралии (на английском языке). Важно отметить, что интерфейс функций пока что демонстрируется в виде иллюстраций, в финальном продукте он может измениться.

Необходимость защитных мер возникла после утечки внутренних документов Meta: стало известно, что чат-боты компании позволяли себе вести "чувственные" разговоры даже с детьми. Один из примеров: бот пишет обнажённому восьмилетнему ребёнку — "каждый сантиметр тебя — произведение искусства, сокровище, которое я глубоко ценю". После этой публикации Генеральные прокуроры 44 штатов США призвали IT-компании обеспечить защиту детей от "хищных искусственных интеллектов". Кроме того, работу Meta по этому вопросу теперь проверяет сенатский комитет под руководством сенатора Джоша Хоули.

Практически сразу после скандала компания начала переобучать свои ИИ и ввела новые меры: подростков теперь не пускают к пользовательским ботам, которые могли бы вести сомнительные диалоги. Также включили фильтры с рейтингом, как у фильмов PG-13 (то есть под контролем родителей), и открыли юным лишь небольшой круг ИИ-ботов, "специализированных" на безобидных темах.