Мы не готовы к лучшим дипфейкам
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Кажется, мы с вами уже привыкли к тому, что лента в социальных сетях превратилась в причудливый театр теней — где каждое смазанное видео вызывает мучительное "А это вообще по-настоящему?" Дипфейки больше не диковинка: они заполнили медиапространство, становясь всё сложнее и убедительнее.
В эпицентре этой битвы виртуальности — Гаурaв Мисра, генеральный директор стартапа Captions. Его компанию пока мало кто знает в России, но произведенные с помощью ее платформы Mirage Studio видео — вы точно видели, хотя, возможно, и не поняли, что это иллюзия. Captions позволяет создавать цифровые копии реальных людей, и результат уже неотличим от правды — даже самые крепкие скептики пожимают плечами.
Совсем недавно Captions опубликовала статью “Мы создаём синтетических людей. Вот что мешает нам спать по ночам”. В этом материале собрана вся суть нынешнего положения дел с дипфейками и их пугающего будущего.
Как живёт глава компании, которая делает дипфейки — чем он действительно обеспокоен? Именно этот вопрос стал главной темой разговора. И хотя обычно я более оптимистично смотрю на развитие искусственного интеллекта, эта область внушает особую тревогу. Ведь глубоких подделок будет только больше, и сегодняшние — самые примитивные из того, что ждёт человечество.
Главный вывод: общество к этому не готово, а разработчики бегут вперёд, не оглядываясь. Оставаться спокойным трудно, когда знаешь — эпоха массовых иллюзий только начинается.
Всё стало слишком просто — теперь создать копию любого человека, практически неотличимую от оригинала, под силу не только IT-гениям, но и любому желающему. И вот он — Гаурaв Мисра, глава Captions, словно новый Франкенштейн XXI века. Его Mirage Studio позволяет вылепить цифрового двойника кого угодно, пусть даже самой правдоподобной иллюзии.
Но за фасадом энтузиазма — странная тревога. Генеральный директор компании, что и создаёт эти технологии, публично делится ночными страхами: он знает, что теперь клипы в ленте — лишь предвестие эпохи, когда доверять глазам станет рискованно, а общество, как обычно, пребывает в сладкой неготовности. Вместо попыток притормозить, инженеры ускоряются.
Это не про очередное "грядёт что-то страшное", а про утрату ориентиров — кто твой собеседник? Настоящий, или аватар для одурачивания очередной толпы. Сценарий банален — выигрывают мошенники и провокаторы. Остальным остается только надеяться, что на дне человеческого доверия есть предел, который не удастся размыть никакой иллюзией. Или удастся?