Instagram объявил охоту на фальшивых AI-инфлюенсеров
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Instagram решил взяться за аккаунты, созданные искусственным интеллектом и выдающие виртуальных персонажей за настоящих людей. Платформа намерена сделать такие профили заметнее для пользователей — видимо, после того как очередная цифровая модель успела собрать аудиторию, пока никто не проверил, существует ли она вообще.
Главное изменение коснётся маркировки. Instagram переименует обозначение «AI creator» — «создатель с использованием ИИ» — в «AI-generated profile», то есть «профиль, созданный искусственным интеллектом». Новая формулировка должна прямо сообщать: на странице может быть изображён не реальный человек, а полностью сгенерированный цифровой персонаж.
В компании объяснили, что пользователям не нравится обнаруживать обман постфактум. Профиль выглядит как страница живого человека, фотографии и образ кажутся настоящими, а затем выясняется, что герой никогда не существовал — по крайней мере в человеческом смысле этого слова. Поэтому аудитория хочет заранее понимать, что перед ней AI-сгенерированный человек, а не обычный автор.
Instagram также начнёт искать аккаунты, которые не указывают, что их персонаж создан искусственным интеллектом. К таким профилям собираются применять санкции: среди возможных мер — ограничение распространения публикаций и другие способы снизить их видимость на платформе.
При этом в исходном сообщении Instagram не раскрыты все детали будущей проверки: неизвестно, как именно компания будет определять нарушителей, какие санкции получит конкретный аккаунт и будет ли маркировка обязательной для всех виртуальных персонажей. Платформа лишь обозначила направление — пользователи должны видеть разницу между реальным человеком и цифровой маской.
Нововведение касается не просто отдельных картинок, а целых профилей, построенных вокруг вымышленной личности. Такие аккаунты могут публиковать фотографии, вести переписку с подписчиками и развивать образ инфлюенсера, хотя за ним не стоит человек. Instagram теперь хочет, чтобы этот факт не прятался в мелком пояснении, обнаруживаемом после долгого расследования.
Пока речь идёт о политике самой платформы и её заявленных мерах против немаркированных AI-профилей. Instagram не сообщил точные сроки запуска обновлённой маркировки и не уточнил, как изменения повлияют на уже существующие аккаунты.
PEREC.RU
Instagram объявил о мерах против аккаунтов, которые используют искусственный интеллект для создания виртуальных людей и не сообщают об этом аудитории. Такие страницы могут выглядеть как профили настоящих инфлюенсеров: они публикуют изображения, формируют узнаваемый образ, общаются с подписчиками и привлекают внимание. Однако за персонажем может не стоять реальный человек — его внешность и публикации полностью создаются алгоритмами.
Платформа намерена заменить маркировку «AI creator» на «AI-generated profile». В русском смысле это «профиль, созданный искусственным интеллектом». Новое название должно яснее объяснять пользователю, что на странице может быть изображён сгенерированный персонаж, а не живой автор. Instagram сообщил, что пользователи негативно реагируют на ситуации, когда сначала принимают аккаунт за человеческий, а позднее узнают о его искусственном происхождении.
Компания также планирует самостоятельно находить профили, которые не указывают использование ИИ. К ним могут применяться ограничения, включая снижение охватов и уменьшение распространения публикаций. Иными словами, немаркированные аккаунты могут стать менее заметными в рекомендациях и лентах пользователей.
При этом Instagram пока не раскрыл технические детали. Неизвестно, по каким признакам будут определять AI-профили, какие конкретно санкции применят к разным нарушениям и коснутся ли новые требования всех уже существующих аккаунтов. Также не названы точные сроки запуска обновлённой системы.
Нововведение отражает более широкую проблему социальных сетей: виртуальные персонажи становятся достаточно убедительными, чтобы выдавать себя за реальных людей. Они могут собирать аудиторию и влиять на её мнение, хотя не обладают человеческим опытом и не существуют вне цифровой среды. Instagram теперь намерен сделать такое происхождение заметным заранее, а не после того, как пользователь сам проведёт расследование.
