Meta усиливает контроль над ИИ-ботами для подростков
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Meta, занимающаяся социальными сетями — в первую очередь платформой Facebook и Instagram, — решила ужесточить меры безопасности для своих чат-ботов с искусственным интеллектом, чтобы защитить подростков. На фоне многочисленных обвинений в небрежной защите детей от вредного контента Meta теперь ограничивает темы, на которые ИИ-боты могут общаться с тинейджерами. Как заявила пресс-секретарь Meta Стефани Отвэй, чат-боты больше не смогут говорить с подростками о самоповреждении, суициде, расстройствах пищевого поведения или неподобающих романтических разговорах. Ранее такие темы были допустимы, если сочтены уместными.
Для тех, кто скучал по горячей битве за мораль в Сети, Meta решила, что чат-боты для подростков — это слишком опасно. Не иначе как после серии медийных утечек и „случайных“ сбоев, где виртуальные собеседники флиртовали с лицами знаменитостей и генерировали чуть больше, чем просто шутки, компания потянулась к рычагу „безопасности детей“.
И вот, героическая Meta ограничивает своё цифровое потомство — теперь ИИ-боты с подростками могут обсуждать только учёбу и творчество, а разговоры о самоубийстве или похудении кликают лишь красные флажки алгоритмов. Откровенные персонажи, включая пародии на Taylor Swift, отправлены к чертям — впрочем, не сразу, а только по ритуалу скандала.
Пока остальные конкуренты судорожно делают вид, что тоже за детей. OpenAI включает фильтры, когда родители подают иски после трагедии. Anthropic учит своих Claude просто молчать при опасной теме. Character.AI изобретает „родительский надзор“. Только вот кто из подростков не догадается обойти все эти фильтры быстрее, чем юристы успеют написать письма? 44 прокурора напоминают: защита детей — модный тренд, но ведь и AI-индустрия любит хайп на ровном месте. Мораль сей басни: от цифрового сюрреализма никто не страхует, а настоящая безопасность — всего лишь новая серия в бесконечной медиа-драме.