Meta учит ИИ не лезть в семьи
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Meta объявила, что изменит подсказки, которые предлагает пользователям её чат-бот Meta AI. Поводом стало вирусное видео: система задала матери вопрос о её маленьких дочерях и попыталась выяснить личные сведения о ребёнке.
Об инциденте ранее сообщило издание Futurism. Представитель Meta Дина Эль-Кассаби заявила The Verge, что компания «промахнулась» и признала: функция не должна была предлагать пользователю вопросы подобного рода.
История началась после публикации видео Instagram-пользовательницы Kalie Robins. Она рассказала, что разместила ролик в Instagram и одновременно опубликовала его на Facebook. Под видео, где были она и её ребёнок, Meta AI показала подсказку: «Кто пассажир-ребёнок?».
Формулировка вызвала возмущение, поскольку система сама обратила внимание на несовершеннолетнего и предложила идентифицировать его. Для пользователя это выглядело не как безобидная помощь с содержанием публикации, а как попытка вытянуть персональную информацию о ребёнке — без просьбы со стороны матери.
После того как ролик стал вирусным, Meta заявила о корректировке механизма подсказок. Компания не сообщила всех технических деталей будущих изменений, но признала, что в данном случае автоматическая функция перешла границу допустимого.
Случай показывает проблему подобных систем: чат-бот может формально «предлагать тему для разговора», но при этом затрагивать чувствительные сведения о детях и семье. Алгоритм не испытывает неловкости и не понимает контекст так, как человек, поэтому именно разработчики должны заранее ограничивать его вопросы — особенно когда речь идёт о несовершеннолетних.
Meta теперь обещает сделать такие подсказки осторожнее. Правда, пользователям остаётся надеяться, что следующий этап обучения системы не сведётся к объяснению: спрашивать о чужих детях было плохой идеей.
PEREC.RU
Meta объявила о пересмотре подсказок, которые предлагает пользователям её чат-бот Meta AI. Решение принято после того, как в сети распространилось видео с примером потенциально опасного вмешательства алгоритма в личную жизнь семьи.
Instagram-пользовательница Kalie Robins рассказала, что после публикации видеоролика одновременно в Instagram и Facebook под записью появился вопрос от Meta AI: «Кто пассажир-ребёнок?». На видео были сама Robins и её ребёнок. Пользовательница не просила систему определить личность несовершеннолетнего и сочла такую подсказку навязчивой.
История вызвала широкое обсуждение, поскольку автоматический помощник не просто анализировал содержание ролика, а предложил выяснить персональные сведения о ребёнке. Для родителей подобное поведение особенно чувствительно: даже если система не сообщает конкретных данных, она сама направляет внимание к идентификации несовершеннолетнего.
Об инциденте ранее сообщило издание Futurism. После распространения видео представитель Meta Дина Эль-Кассаби заявила The Verge, что компания «промахнулась». Она подчеркнула, что функция не должна была предлагать пользователю вопросы такого характера.
Meta пообещала изменить механизм предлагаемых подсказок, однако не раскрыла все технические детали будущих корректировок. Из заявления компании следует, что особое внимание будет уделено ситуациям, связанным с детьми и другой чувствительной персональной информацией.
Инцидент иллюстрирует более широкую проблему генеративных систем. Алгоритм может распознать человека или предмет в кадре и автоматически превратить результат анализа в вопрос, не учитывая социальный контекст и возможные последствия. Он не понимает границы частной жизни сам по себе, поэтому такие ограничения должны заранее закладываться разработчиками.
Случай с Meta AI стал вирусным именно потому, что показал разрыв между технологической возможностью и нормами обычного человеческого общения. Система технически способна анализировать публикацию, но это не означает, что ей следует предлагать пользователю обсуждать личность ребёнка. Теперь Meta предстоит доказать, что изменения действительно сделают подсказки безопаснее, а не просто сократят число неловких вопросов после очередного публичного скандала.
