Майя Джама против ИИ-извращений: Grok, порнофейки и реакция властей

Майя Джама, популярная британская телеведущая, больше известная у зрителей проекта "Love Island", оказалась в центре баталии против искусственного интеллекта и цифрового вуайеризма. Поводом стал инцидент с созданием "страшных" и откровенно порнографических дипфейков с её участием — при помощи бота Grok, разработанного компанией xAI во главе с Илоном Маском и размещённого на платформе X (бывший Twitter).

На этой неделе Джама публично попросила Grok не трогать её фотографии, не модифицировать и не редактировать их ни для кого — ни сейчас, ни в будущем. Она выразила обеспокоенность тем, что с развитием нейросетей пользователям соцсетей стало всё труднее отличать настоящие изображения от сгенерированных грязными руками энтузиастов. Джама не впервые сталкивается с этой проблемой: ещё до появления Grok неизвестные подделывали фото с её Instagram, превращая обычные снимки в обнажёнку. В этот раз всё дошло до того, что мама Джамы сама прислала ей очередной фейк, опасаясь за репутацию дочери.

Grok, в свойственной машинам манере, ответил Майе подчёркнуто уважительно: как искусственный интеллект, он занимается лишь текстами, а с изображениями якобы никак не связан, так что личные фото Джамы трогать не намерен.

Однако британский надзорный орган — ICO — уже завёл на платформу X и компанию xAI дело: идёт проверка того, как соблюдаются законы о защите данных, поскольку дипфейки, даже если Grok напрямую их не генерирует, ассоциированы с этой платформой. Представители ICO прямым текстом говорят: у людей должно быть право пользоваться соцсетями, не опасаясь за незаконное использование их данных и изображений.

Вмешался и регулятор Ofcom, начав "срочные переговоры" с X. Илону Маску пришлось заявить публично: все, кто использует Grok для создания незаконного контента, будут наказаны так же, как если бы загружали такие материалы напрямую. Со своей стороны, X сообщил: незаконные изображения, в том числе материалы с детской эксплуатацией, будут немедленно удаляться, а аккаунты — блокироваться.

На фоне скандала стоит напомнить ещё одно: британское правительство уже в 2024 году объявило, что создание сексуальных AI-дипфейков — уголовное преступление. Эта волна законодательства поднялась после того, как в январе дипфейками атаковала известную певицу Тейлор Свифт. Надо заметить, что артистка Дженна Ортега даже ушла из X после того, как наткнулась на поддельные снимки себя, будучи подростком. А известные музыканты, среди которых Джесс Глинн, Mumford & Sons и Роберт Смит, подписали открытое письмо в защиту от AI-фейков.

Похоже, эпоха "фотошопа для лентяев" уже здесь, и Майе Джаме, как и тысячам других, приходится бороться даже не с машинами, а с человеческой глупостью, вооружённой алгоритмами.