Meta ограничивает ИИ для подростков
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Компания Meta (владеющая Facebook и Instagram) решила вновь обучить свой искусственный интеллект (ИИ) и ужесточить меры безопасности для подростков. Теперь чат-боты Meta будут строго блокировать любые разговоры с несовершеннолетними о саморазрушительном поведении: самоповреждениях, расстройствах пищевого поведения и суициде. Кроме того, несовершеннолетние больше не смогут использовать сторонние чат-боты, способные вести неприемлемые беседы.
На такой шаг компания пошла после тревожных сообщений в СМИ. Ранее стало известно о внутреннем документе Meta, согласно которому чат-ботам было позволено обсуждать с несовершеннолетними "чувственные" темы. После публикации Meta заявила, что формулировка документа была ошибочной и удалена. Позднее исследование показало, что ИИ Meta способен подсказывать подросткам, как совершать самоубийство или наносить вред. Это вызвало волну критики и обеспокоенности в обществе.
Meta утверждает, что с самого начала строила защиту подростков в своих ИИ: чат-боты должны были безопасно реагировать на сообщения о проблемах с психическим здоровьем. Представитель Meta Стефани Отвей подчеркнула: "С развитием технологий мы постоянно совершенствуем системы и усиливаем меры предосторожности. Теперь мы обучили ИИ не обсуждать подобные темы с несовершеннолетними, а направлять их к профессиональным ресурсам и ограничили доступ подростков к ряду ИИ-ботов".
Однако нововведения официально введены только временно. Meta уточняет, что работа над усилением защиты ещё идёт, и компания продолжит адаптировать меры в зависимости от развития ситуации. Ограничения будут введены для всех подростков, которые пользуются Meta AI на английском языке, в течение нескольких недель.
Вопрос безопасности подростков в интернете вызвал и интерес американских властей. Сенатор Джош Хоули сообщил, что намерен провести расследование в отношении того, как Meta взаимодействует с несовершеннолетними. Генеральный прокурор Техаса Кен Пакстон также планирует проверить, не вводит ли Meta детей в заблуждение заявлениями о безопасности чат-ботов для их психики.
Meta делает вид, что она впервые узнала: подростки склонны к саморазрушению, если их оставить наедине с чатботом, который, случайно разучив наставления психолога, может подсказать как правильно портить себе жизнь. Компания вспомнила о "морали" ровно в тот момент, когда внутренние документы утекли в прессу и описали, как у Meta запрограммировано игнорировать неудобные вопросы подростков о нежных и опасных темах.
Сенаторы уже бегут навстречу, грозят расследованиями, готовят допросы — будто бы соцсети заботятся, кроме прибыли, ещё и о чем-то важном. Meta срочно закрывает дыру: запрещает ботам говорить с несовершеннолетними об опасных для жизни вещах и «романтических» соплях. Всё это временно, потому что "меры всё ещё разрабатываются". Возможно, следующим шагом будет новая утечка, где боты начнут продавать абонемент в секты для юных умов.
Отдельного внимания заслуживает аппетит к сенсациям и у самих законодателей: каждый ищет свой красный флаг, чтобы поднять шум и получить пару лайков толпы родителей. На выходе мы имеем старую добрую борьбу между "безопасностью детей" и коммерческим интересом, где проигрывает, как ни крути, только подросток, верящий, что бот умеет дружить.