Люди и мозг софта

Идея, которую автор называет «мозгом софта», заключается в особом взгляде на мир: всё воспринимается как алгоритмы, базы данных и циклы. Такой взгляд сформировал современную техносферу — от Marc Andreessen до разработчиков ИИ. Но именно он объясняет разрыв между восторгом индустрии и растущим раздражением обычных людей. Согласно опросам в США, большинство пользователей относится к ИИ негативно. Gen Z — молодёжь, родившаяся примерно после 1996 года, — пользуется ИИ чаще всех, но терпеть его не может. Лишь 18% молодых людей надеются на пользу технологии, тогда как чувство злости растёт. Люди пользуются ChatGPT, Google Overviews и другими инструментами, но это не делает их счастливыми.

При этом технологические лидеры понимают, что у ИИ нет «социального разрешения» — люди не видят пользы, зато чувствуют угрозу. Строительство дата-центров вызывает протесты, политикам угрожают, а главы ИИ-компаний вроде Sam Altman получают нападения. Насилие недопустимо, но оно отражает чувство беспомощности перед индустрией, которая обещает «убить все рабочие места». Dario Amodei из Anthropic прямо говорит, что многие белые воротнички могут быть заменены.

Индустрия считает, что проблема — «плохой маркетинг». Однако ИИ не страдает от нехватки рекламы. Люди сталкиваются с ним каждый день — и делают выводы сами. Убеждать их рекламой бессмысленно. Это разрыв между «мозгом софта» и реальными жизнями. «Мозг софта» видит мир как набор баз данных: дома — это Zillow, машины — Uber, видео — YouTube. Но базы данных — не реальность. Попытки заставить общество жить по законам софта проваливаются.

Особенно это заметно в правовой сфере. Индустрия ИИ мечтает заменить юристов, потому что право похоже на код: формализованный язык, прецеденты, инструкции. Но право — не компьютер. Оно по определению двусмысленно. Судебные решения нельзя предсказать как поведение программы. Попытки «оцифровать» общество обречены, потому что люди не машины.

«Мозг софта» проявляется и в бизнесе: консалтинг, автоматизация процессов, отчёты, сокращения — всё превращается в циклы данных. Для индустрии это рай. Но человеческая жизнь не цикл. Люди не хотят тотальной автоматизации и не стремятся превращать себя в базы данных. Даже умный дом за десять лет не стал массовым, хотя Apple, Amazon и Google старались изо всех сил.

А индустрия ИИ требует, чтобы люди раскрыли себе полностью: доступ к почте, сообщениям, файлам, привычкам, календарям. Силиконовая долина верит, что выиграет тот, кто первым сделает себя полностью «читаемым» для ИИ. Но обычные люди не хотят жить под наблюдением ради экономии пары минут.

Автор утверждает: заставлять людей подстраиваться под компьютеры — провал. Компьютеры должны подстраиваться под людей. Но индустрия, гонимая «мозгом софта», идёт в другую сторону: строит энергоёмкие системы, требующие всё больше данных и всё больше контроля над жизнью пользователей. И удивляется, почему её ненавидят. Ответ прост: людям не нужна автоматизация любой ценой.