Meta представила инструмент для обнаружения ИИ-контента

Meta (материнская компания Facebook и Instagram) разработала специальный инструмент для выявления фото и видео, созданных её собственными новыми моделями искусственного интеллекта. Компания заявляет, что данный "детектор" сможет определить, какие изображения и ролики были сгенерированы с помощью её последних ИИ-разработок. Это сделано в рамках борьбы с поддельным контентом и распространением недостоверной информации. Сейчас, когда многие пользователи и компании используют искусственный интеллект для создания реалистичных фотографий и видеоматериалов, проблема ложной информации и манипуляций стала особенно острой. Meta называет разработку инструмента частью своей стратегии прозрачности и честности в социальных сетях. Детектор ИИ-контента предназначен в первую очередь для выявления изображений и видео, созданных с помощью генеративных моделей самой Meta. Он не сможет определять работы, созданные системами ИИ других компаний. Технология автоматически сканирует и анализирует изображения и ролики, после чего помечает те, которые, по её мнению, были сгенерированы искусственным интеллектом Meta. Компания отмечает, что такой подход помогает пользователям отличать настоящие фото и видео от созданных нейросетями материалов, а также бороться с распространением фейковых новостей. Инструмент пока внедряется постепенно и доступен только на некоторых платформах Meta. Также компания не сообщает детали, по которым алгоритм распознаёт ИИ-контент — якобы для предотвращения обхода системы злоумышленниками. В компании подчёркивают, что это только первая версия технологии: в будущем детектор могут научить различать и ИИ-контент, сделанный сторонними разработчиками. Meta считает прозрачность ключевым элементом своей политики в эпоху искусственного интеллекта и обещает, что будет развивать инструменты по распознаванию поддельного контента, чтобы сделать платформы безопаснее для всех пользователей.