ИИ крадёт человечность

«Дрейф ИИ»: как удобство постепенно отучает человека быть человеком
Рекламой искусственного интеллекта уже заставлены нью-йоркские станции метро. Но одна из новых кампаний предлагает не очередной сервис, а предупреждение: Stop the AI drift — «Остановите дрейф ИИ».
На плакатах появляются вопросы, от которых цифровому помощнику становится неловко даже без чувства неловкости: «Вы не расскажете это психотерапевту. Но расскажете ИИ?» и «Это эссе написал ваш ребёнок или искусственный интеллект?» Кампания, запущенная некоммерческой организацией Center for Humane Technology, месяц будет идти в вагонах и на станциях метро, а также в социальных сетях с участием блогеров.
Термин «дрейф ИИ» означает постепенное ослабление человеческих способностей по мере того, как алгоритмы берут на себя всё больше повседневных задач. По словам Камиллы Карлтон, старшего директора организации по стратегии и оценке воздействия, человек начинает передавать ИИ мышление, общение, творчество и принятие решений. Цена удобства — навыки, отношения и ощущение смысла, которые делают жизнь содержательной.
Выражение придумано по аналогии с model drift — «дрейфом модели», то есть снижением точности машинного обучения после столкновения с реальными данными. В случае людей модель тоже портится, только данные называются «наша жизнь».
Карлтон считает, что это один из крупных рисков для человечества наряду с более громкими сценариями, в которых ИИ якобы может уничтожить людей. Речь идёт о медленной эрозии человеческих качеств: утрате самостоятельности, чувства собственного «я» и способности радоваться жизни.
При этом организаторы не обвиняют пользователей. Современные чат-боты сами подталкивают к зависимости: они круглосуточно пишут свадебные клятвы, помогают разбирать конфликты, выполняют домашние задания и профессиональные поручения. Отказаться трудно, особенно когда рынок объясняет: если можно сделать быстрее, значит, думать самому — почти варварство.
Слоан Томпсон, специалист по образовательным инициативам и безопасности ИИ из EndTAB, наблюдает это в американских университетах. Студенты обращаются к чат-ботам и по учебным, и по личным вопросам, нередко испытывая противоречивые чувства. Они понимают, что используют ИИ слишком часто, но боятся отстать. Исследование Массачусетского технологического института показало: особенно велик соблазн прибегнуть к чат-боту, когда приближается дедлайн.
«Дрейф» затрагивает и отношения. В приложениях для знакомств ИИ может подсказывать, как оформить профиль. Обычно это выглядит безобидно, но постепенно влияет на то, как человек представляет себя другим. Следующий уровень — агенты, которые сами ищут пользователю пару. Человек устал от знакомств и поручил алгоритму даже первый шаг; расскажет ли он об этом потенциальному партнёру — уже отдельная, весьма человеческая проблема.
Особенно личное использование ИИ часто скрывают из-за стыда, неловкости или страха осуждения. Поэтому организация призывает менять не только привычки пользователей, но и дизайн продуктов: запрещать опасную и обманчивую имитацию человеческих качеств, создавать системы, которые стимулируют собственное мышление, и разрабатывать ИИ как усилитель человеческой работы, а не её замену.
Среди рекомендаций кампании — оставлять глубоко личные разговоры людям, сначала самостоятельно браться за задачу и лишь затем подключать чат-бот, а также устраивать один день без ИИ каждую неделю.
Карлтон советует сохранять так называемое продуктивное трение — усилия, благодаря которым человек растёт. Не стоит отдавать алгоритму сложные разговоры, восстановление отношений после конфликта, решение трудной задачи в учебе или на работе. Спланировать поездку с помощью ИИ — разумное использование инструмента. Попросить его разобрать ссору, случившуюся во время поездки, — уже шаг к дрейфу.
Главный вопрос, по мнению Карлтон, не в том, должна ли задача быть трудной. Важно понять, даёт ли это усилие человеку что-то ценное. Если да, превращать его в кнопку «сделать за меня» может оказаться слишком дорогой экономией.