Искусственный интеллект не понимает сленг поколения Альфа
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Модели ИИ не понимают сленг поколения Альфа, показало исследование
Ведущие модели искусственного интеллекта, похоже, столкнулись с реальной проблемой: поколением Альфа. Новое исследование — которое можно найти в ACM Digital Library — показало, что четыре ведущие модели ИИ (GPT-4, Claude, Gemini и Llama 3) не справляются с пониманием сленга поколения Альфа, которое включает молодых людей, родившихся с 2010 по 2024 год.
Исследование подробно рассмотрело факторы, усложняющие понимание сленга поколения Альфа, который чаще всего возникает в онлайн-пространствах, особенно в играх. Одна и та же фраза может означать совершенно разные вещи. Например, фраза "Fr fr let him cook" — это поддержка кого-то, в то время как "Let him cook lmaoo" — это насмешка. Такие тонкие различия в языке могут быть трудны для учета, особенно поскольку молодые люди часто используют кодированный язык, чтобы скрыть истинный смысл. И, по-видимому, языковые модели с этим справляются плохо. В частности, исследователи отметили, что им было сложно идентифицировать "замаскированные преследования", что стало бы проблемой для систем модерации на базе ИИ.
"Результаты подчеркивают неотложную необходимость улучшения систем безопасности ИИ для более надежной защиты молодых пользователей, особенно учитывая тенденцию поколения Альфа избегать обращения за помощью из-за обсуждаемого отсутствия понимания со стороны взрослых их цифрового мира", — указано в исследовании.
Чтобы быть справедливыми к моделям ИИ, понимать сленг молодежи, особенно поколения Альфа, которое выросло в цифровом пространстве, трудно даже людям. В исследовании также оценивали понимание сленга родителями, и эта группа продемонстрировала 68% базового понимания. Это примерно такой же уровень, как у модели, показывающей наилучшие результаты, Claude. Тем не менее, стоит отметить, что языковые модели все же немного лучше родителей в определении контекста и рисков безопасности в языке, хотя все группы проявили довольно низкие результаты. Только само поколение Альфа действительно надежно понимает сленг, его контекст и потенциальные риски.
Итак, коротко о сути исследования: ИИ не может надежно понимать сленг поколения Альфа, что может привести к неудовлетворительной модерации контента. Это как следует из других исследований, которые показывают, что ИИ сложно справляться со сложным пониманием.
"Это исследование представляет собой первую систематическую оценку того, как системы безопасности ИИ интерпретируют уникальные модели цифровой коммуникации поколения Альфа", — отметили в заключении исследования. "Включив пользователей поколения Альфа непосредственно в исследовательский процесс, мы количественно оценили критические пробелы в понимании между этими молодыми пользователями и их защитниками — как людьми, так и ИИ."
PEREC.RU
Кто бы мог подумать, что искусственный интеллект столкнется с настоящей загадкой — сленгом поколения Альфа? Неужели это не типично для нас, людей, которые уже много лет жалуются на молодежь, начинающую говорить на инопланетном языке? Исследование, опубликованное в некоммерческом клубе АСМ (ACM), спешит сообщить нам, что GPT-4 и его 'друзья' по разуму словно заворожены — дополнительно перегружены непонятными терминами вроде "let him cook".
Как же хорошо, что у нас есть исследователи, которые уделяют внимание проблемам, которые, казалось бы, даже не стоило бы поднимать! Очевидно, их цель — напомнить, что тут, среди нас, растет новое поколение, которое в совершенстве владеет искусством кодирования своих мыслей. Четыре ведущие модели ИИ, обученные на бесчисленных буквах и словах, ведут себя как наши бабушки, которые без долгих раздумий кенсируют все, что звучит подозрительно.
Конечно, в мире, где каждое 'lmaoo' может представлять угрозу для безопасности, создатели ИИ немножко усердствовали, забыв про мелочи, такие как ваша дочь, которая шутит с друзьями в Fortnite, а вы пытаетесь вникнуть в смысл "Fr fr". Исследователи предлагают, что ИИ просто нуждается в дополнительной тренировке в понимании нюансов — в то время как реальный вопрос в том, кто же будет готовить эти тренинги? Очевидно, что это будут любители мемов и тиктокеры, которые предоставят свой опыт за твиттер-сетки.
Нельзя не отметить и смелый шаг, который авторы сделали, сравнив понимание родителей и ИИ. Полученные результаты, где "умңг ноль два" аля “слекомендую двум родителям”, вызывают лёгкую иронию. Вывод: модели всё-таки умнее обычных мам и пап, которые умеют вникать в сложные фразы на 68%.
В заключение, мы имеем дело с абсолютно необходимой переоценкой ИИ и его способности понимать молодежный жаргон. Как же благородно с их стороны осознать, что у них всё ещё есть пути к улучшению. Но, боюсь, хотелось бы добавить, что первыми поддержки и понимания, вероятно, потребуют сами взрослые. Если они не понимают, кто в их чатах ‘приготовит вкусный ужин’, то кому, как ни им придется учить ИИ?
