Ютуб тонет в AI-каше для детей

Детская версия YouTube снова оказалась в центре внимания, и, увы, повод не самый приятный. Коалиция национальных организаций и специалистов по детскому развитию обратилась к руководству Google и YouTube с требованием остановить лавину низкокачественного контента, созданного искусственным интеллектом — того самого «AI slop», который массово поглощают дети. Под этим термином обычно подразумевают дешёвые, бессодержательные ролики, которые алгоритмы плодят как на конвейере, чтобы удерживать внимание маленьких зрителей.

Активисты требуют ввести жёсткие ограничения, включая полный запрет на ролики категории «Made for Kids», созданные ИИ. Их главный аргумент прост: нет ни одного доказательства, что такая продукция безопасна для детской психики. Зато есть вполне реальный риск, что эти видео способны «гипнотизировать» малышей, перегружать их мозг и подменять реальные занятия, важные для развития.

Особенно остро вопрос встал после того, как YouTube заключил партнёрство со студией Animaj, специализирующейся на генеративном детском контенте, который уже собрал миллиарды просмотров на каналах, ориентированных даже на младенцев. То, что рынок AI-видео для детей стал прибыльным бизнесом, давно ни для кого не секрет.

Письмо, инициированное некоммерческой организацией Fairplay, подписали Американская федерация учителей, Национальная ассоциация развития чернокожих детей, Mothers Against Media Addiction и другие крупные структуры. Среди подписантов — и автор известной книги «The Anxious Generation» Джонатан Хайдт. Они подчёркивают: растёт тревога, что общение детей с ИИ-контентом искажает восприятие реальности и нарушает формирование когнитивных навыков.

Детский психиатр и исследователь медиа Дженни Радески указывает: сначала YouTube запустил Shorts с детским контентом, не подумав о последствиях, а затем на той же платформе начали появляться ИИ-ролики, конкурирующие за внимание маленьких зрителей. По её словам, пришло время относиться к детскому вниманию как к ценности, а не как к ресурсу, который можно выжимать до последней капли.

В новой публичной петиции активисты требуют: чёткой маркировки всех AI-видео; запрета ИИ-контента на YouTube Kids; запрета на детские ролики, созданные ИИ, на основном YouTube; запрета рекомендаций таких видео пользователям до 18 лет; добавления отдельного выключателя для родителей; прекращения инвестиций в создание подобных роликов.

Появление письма совпало с громким судебным решением в Калифорнии, где Meta и Google признали виновными в игнорировании предупреждений о рисках для психики пользователей. В центре дела — 19-летний истец, который утверждал, что платформы сознательно поддерживали «опасно затягивающий» функционал.

Активисты напомнили: «безобидные» мультики могут внезапно оказаться сексуальными или жестокими. И после недавнего решения суда, по их мнению, YouTube обязан серьёзно задуматься о своей ответственности.

Тем временем YouTube остаётся самым популярным видеосервисом для маленьких детей, особенно из семей с низким доходом. Однако алгоритмы платформы до сих пор не умеют эффективно фильтровать ИИ-жвачку. Более того, по данным расследования The New York Times, среди таких видео уже тысячи нарушают детские рекомендации.

По словам представителя Fairplay Рэйчел Франц, алгоритм YouTube буквально «заставляет» детей сталкиваться с AI slop. И, если ничего не изменить, последствия для нового поколения могут оказаться необратимыми.