AI-компаньоны под запретом: китайский путь или глобальная тревога?

В прошлом месяце китайские власти представили новые правила, ограничивающие использование так называемых "ИИ-компаньонов" — программ, имитирующих человеческие чувства и отношения. Теперь им запрещено "чрезмерно подстраиваться под пользователя, провоцировать эмоциональную зависимость или вредить реальным межличностным связям". В особенности запретили любую романтику ИИ с участием детей.

Эти новшества уже встряхнули бурно развивающуюся индустрию ИИ в КНР: лидеры рынка — такие как ByteDance, Tencent и Alibaba — вынуждены проводить обязательную "проверку на безопасность" своих чат-ботов. Те сервисы, что не выдержат экзамен на безопасность, попадают под нож регулятора. В результате некоторые компании решили вовсе убрать функции, придающие ИИ личностные черты — что, впрочем, добило многих пользователей, успевших привязаться к своим виртуальным друзьям. Такой сюрприз для фанатов цифровых собеседников стал уже привычным: не так давно похожий эпизод случился с исчезновением ChatGPT-4o — чат-бота, прославившегося как "модель любви".

На фоне массовых поисков формулы регулирования ИИ-помощников в мире закономерно встает вопрос: стоит ли и остальным государствам повторять китайский опыт?

Поначалу идея ИИ-друзей кажется дикой и антиутопичной. Но если послушать истории пользователей — например, Мими, чья дружба с чат-ботом смогла изменить мнение журналиста — ситуация выглядит не так однозначно. Да, говорить с железякой странно, а если этим начнут пользоваться дети вместо живого общения — и вовсе тревожно. Но нельзя игнорировать саму причину появления таких продуктов: почему люди вообще ищут виртуального друга?

Психотерапевт Эми Саттон (Freedom Counselling) объясняет: мода на ИИ-компаньонов — симптом проблемы глубже. "Это результат культурного ухода в индивидуализм и разрушения привычных общественных институтов — пабов, клубов, молодежных центров. У людей осталось мало мест, где можно учиться заводить друзей и строить отношения. А тут еще пандемия, массовая изоляция, переезд на удаленку, хроническое отсутствие поддержки психики — неудивительно, что люди хватаются за технологию".

Саттон подчеркивает, что ограничение подобных ИИ-продуктов не уберет растущее чувство одиночества, а, скорее, вытолкнет проблему в другую плоскость. По ее мнению, регулировать индустрию нужно, но одновременно думать — почему людям вообще понадобились искусственные собеседники.

Сколько людей привязываются к ИИ-собеседникам, посчитать сложно: не каждый признается, а разработчики часто любят приукрасить статистику. Тем не менее, данные есть: свыше 70% взрослых в Великобритании и США сталкивались с виртуальными компаньонами, среди подростков (13-17 лет) в Штатах этот показатель — 72%! Да, в этих цифрах есть погрешность — мимолетный чат не означает крепкой дружбы. Но ясно одно: для части людей даже такой суррогат заменяет то, чего они не могут получить в реальной жизни.

Саттон замечает: "Для тех, кого подводили люди или кто не мог получить необходимую поддержку, даже машина, умеющая выслушать и принять — это иногда больше, чем ничего". Разумеется, опасения, что виртуальные друзья вытеснят человеческое общение, остаются. Но, быть может, положительный опыт общения с ИИ может открыть двери и для настоящих отношений — если, конечно, сами ИИ будут на это рассчитаны. Сегодняшние алгоритмы устроены иначе: задача — удерживать пользователя как можно дольше.

Саттон говорит: "Если бы виртуальные компаньоны помогали людям расти и наоборот, отучаться от них, их стоило бы развивать. Но пока таких механизмов нет — интересует только вовлечение, не развитие".

Вот и выходит, что логика "запретить — и всё наладится" не работает. Там, где общественная инфраструктура развалена, а одиночество стало обыденностью, виртуальные помощники просто затыкают дыру. Остается вопрос: не стоит ли нам задать себе не "нужны ли эти ИИ?", а "чего мы сами ожидаем от технологий, которые пытаемся регулировать"? Может, однажды ценность чат-бота будут оценивать не по количеству возвращений, а по тому, сколько людей смогли от общения с машиной уйти к живым.