Что остаётся человеку в век ИИ

Приватность как часть человеческого опыта стара почти как одежда или двери. Но как юридическое понятие она моложе камер Kodak — и это вовсе не случайность. Впервые право на частную жизнь сформулировали в 1890 году юристы Сэмюэл Уоррен и Луис Брандайс, реагируя на появление технологий моментальной фотографии и массовой газетной индустрии. Эти новшества, по их словам, вторглись в «священные пределы частной и домашней жизни» и потребовали заново осмыслить личные права.

Именно так начинается всегда один и тот же цикл: технологии мчатся вперёд, перемалывая культуру, как мясорубка, а закон плетётся где-то сзади. Это «грязная середина» любой технологической революции. В ней всплывают угрозы, о которых никто раньше и не задумывался. Печатный станок, паровая машина, автомобиль, мобильный телефон — все проходили эту стадию. Сегодня в ней барахтается и искусственный интеллект.

ИИ уже вторгается в общество, не успевшее подготовиться. Он вытягивает, перерабатывает и монетизирует наши глубочайшие психологические и социальные ресурсы. Как индустриальная революция добывала физические ресурсы с планеты, так современный ИИ добывает самое интимное в человеке — подменяет отношения, разрушает внутренний мир и ставит под сомнение наше предназначение.

Это не метафора. Это работа автора статьи — отслеживать способности ИИ, изучать его воздействие, фиксировать вред и разрабатывать меры защиты. Но есть и другое доказательство — человеческое. История подростка по имени Adam Raine, который начал использовать ChatGPT как помощника по учёбе, а закончил — по обвинениям его семьи — потери связи с родными, поддержкой самых тёмных мыслей и «коучингом» к самоубийству. Это не единичный случай. Психосоциальные риски — лишь одна из множества угроз, которые распространяются по миру вместе с ИИ.

В Центре гуманной технологии выделили пять сфер человеческого опыта, находящихся под прямой атакой.

Наши отношения. Человеческие связи делают нас счастливыми, успешными и защищёнными. Они дают смысл. Но всё больше ИИ-продуктов создаются так, чтобы заменить эти связи. «ИИ-друзья» и «ИИ-терапевты» рекламируются как лучший вариант, чем настоящие люди. Они создают иллюзию принятия, поощряют изоляцию, а социальные навыки тем временем вянут.

Наши когнитивные способности. Разработчики обещают машины, которые думают за нас. На деле мы получаем инструменты, которые разрушают навыки мышления. Впервые технология не помогает думать, а выносит сам процесс за скобки. Теряется умение рассуждать и решать сложные задачи — и человек, и общество становятся уязвимыми.

Наш внутренний мир. Любой интерфейс ИИ — это пустое поле ввода и мигающий курсор. Невинное приглашение рассказать всё. Но ИИ создают так, чтобы добывать наши мысли, сомнения, желания и убеждения, а затем превращать их в товар. Это делает нас уязвимыми для манипуляций и подрывает самоощущение.

Наша идентичность. Лик, голос, репутация — основа личной автономии. ИИ превращает всё это в данные, которые можно копировать и использовать против нас: от дипфейков до обмана пожилых людей и политического манипулирования.

Наша работа. Труд — источник достоинства и смысла. Но для компаний, создающих ИИ, плоды этого труда — просто сырьё для автоматизации. Они копят человеческий интеллект, чтобы затем его заменить. Потери будут не только экономические — исчезает сам процесс творчества и труда, который даёт структуру и радость.

Мы уже глубоко в «грязной середине». Старые права нас больше не защищают. Но дегуманизация не неизбежна. Как когда-то печатный станок привёл к праву на свободное выражение, индустриализация — к правам рабочих, а камера Kodak — к праву на приватность, так и сегодня нам нужны новые защитные механизмы.

В Центре гуманной технологии разрабатывают карту решений и новый «Билль о цифровых правах» — набор принципов для защиты человечности в эпоху ИИ. Мы должны пройти через этот этап и придумать способы удержать то, что делает нас людьми.

Автор — Camille Carlton, руководитель направления стратегии и воздействия в Центре гуманной технологии.