Meta показала рекламу с ИИ-порнографией с детьми: новый виток скандала вокруг CSAM

Недавно стало известно, что на платформах, принадлежащих корпорации Meta (речь о Facebook и Instagram), показывалась реклама, содержащая изображения, сгенерированные искусственным интеллектом, на которых были запечатлены сцены сексуального насилия над детьми — англоязычный термин для этого явления CSAM (Child Sexual Abuse Material). Подчеркнем: речь идет именно о рекламных объявлениях, прошедших модерацию и размещенных для широкой аудитории, включая несовершеннолетних.

Компания Meta публично комментировать детали инцидента не спешит. Представители лишь сообщили, что после обнаружения таких объявлений «оперативно удалили» их и заблокировали аккаунты, которые заказывали размещение подобной рекламы. Также Meta уточнила, что работает над усилением автоматической фильтрации контента с помощью новых технологий, чтобы оперативнее выявлять и запрещать публикацию подобных изображений, особенно если они созданы при помощи ИИ-технологий — ведь зачастую алгоритмы плохо справляются с определением поддельных материалов.

Ситуация вызвала волну возмущения не только среди пользователей, но и среди специалистов по цифровой безопасности, которые давно критикуют Meta за долгую реакцию на проблемные материалы и недостатки в работе автоматических фильтров. Эксперты отмечают: создание подобных изображений стало возможным благодаря развитию генеративного ИИ, но социальные платформы, по их мнению, не поспели усовершенствовать технологии распознавания опасного контента.

Общественные организации, занимающиеся проблемой сексуальной эксплуатации детей, отметили, что даже попытка монетизировать такие изображения через рекламу крайне опасна и может усугубить проблему их распространения. Сейчас в ряде стран уже обсуждается введение более строгих требований к алгоритмам модерации соцсетей, а сама Meta пообещала «пересмотреть приоритеты в отношении безопасности пользователей». Однако представители нескольких правозащитных организаций уверены: без кардинальных изменений подхода к разработке и применению ИИ любые заявления останутся словами.