ИИ обещал будущее, а принес слежку

Гендиректор и сооснователь Anthropic Дарио Амодеи заявил, что искусственный интеллект переживает «кризис доверия». По его словам, люди подозревают компании и правительства в том, что они «готовят новый способ испортить им жизнь». И, учитывая масштаб применения ИИ американскими военными, полицией и разведкой, такое недоверие выглядит не самым иррациональным страхом человечества.

Амодеи признал: самая точная критика в адрес ИИ-компаний, включая Anthropic, заключается в том, что они пока не выполнили громких обещаний принести пользу всему миру. О технологии много говорили как о решении глобальных проблем, но убедительных результатов общество увидело заметно меньше, чем презентаций, прогнозов и восторженных выступлений руководителей.

В начале бума ИИ прежде всего продавали руководителям корпораций. Им объясняли, что технология, даже оставаясь непроверенной, оправдывает инвестиции, потому что способна сократить расходы на труд и заменить часть сотрудников. На закрытом мероприятии один из сторонников идеи «сверхразума» предсказал, что за десять лет ИИ может уничтожить до 50% рабочих мест в мире. По его версии, компании, готовые воспользоваться этим катаклизмом, получат огромную власть и богатство. Менеджеры в зале встретили прогноз аплодисментами — рынок труда, видимо, снова оказался расходным материалом для чужого успеха.

Сам Амодеи ранее говорил, что ИИ способен ликвидировать до половины офисных рабочих мест. Позже он смягчил формулировку и стал называть технологию «множителем производительности». В корпоративном переводе это означает: выпуск продукции растёт, а расходы на зарплаты — не обязательно.

Гендиректор Anthropic также отметил, что обещания нужно проверять результатами. Если разместить рекламу о том, что ИИ вылечит рак, она будет воспринята как вводящая в заблуждение. Реальным доказательством станет не рекламный текст, а лечение рака. Anthropic заявляет, что усиливает работу в области биологии и медицины, однако заметных результатов, способных изменить общественное отношение к ИИ, пока не предъявлено.

Амодеи затронул и вопрос концентрации власти. Он выступил за баланс между регулированием, надзором, тестированием и моделями с открытыми весами — то есть системами, параметры которых доступны для изучения и самостоятельного запуска. Он также частично поддержал движение «Pacing the Frontier», предлагающее замедлить развитие самых передовых ИИ-систем с помощью ограничений, чтобы остальные участники рынка успели догнать лидеров.

Проблема в том, что такие правила могут действовать только в отдельных странах. Если ограничения введут в США, а другие государства их проигнорируют, американские компании окажутся в невыгодном положении. Администрация Дональда Трампа неоднократно заявляла, что не позволит ослабить лидерство США в сфере ИИ.

Тем временем наиболее заметные практические применения ИИ связаны не с лечением болезней, а с наблюдением. До разрыва отношений с Пентагоном Anthropic сотрудничала с Министерством обороны США. Компания отказалась разрешить массовую слежку и полностью автономное применение оружия, после чего потеряла контракт. OpenAI заключила с Пентагоном новое соглашение и заняла освободившееся место, сохранив запрет на использование технологий для шпионажа за американцами.

Другие системы вызывают меньше уверенности в этике. Компания Flock разработала ИИ-камеры, отслеживающие автомобильные номера по всей территории США. Предполагалось, что система будет выявлять подозрительные машины при пересечении границ между юрисдикциями. На практике камеры использовали для преследования бывших партнёров, наблюдения за коллегами и контроля за любовными интересами — человеческая изобретательность снова нашла для технологии самое бытовое применение.

ИИ также внедряют в дорожный контроль и камеры фиксации превышения скорости. Ошибки в распознавании номеров и неправильные настройки уже стали предметом критики. В уголовных делах США государство обязано доказать вину обвиняемого. Но автономные системы выписывали штрафы не тем автомобилям, а затем фактически заставляли владельцев доказывать невиновность в суде. Так техническая ошибка способна перевернуть базовый принцип правосудия.

Наконец, есть Palantir. Её ИИ используют американские военные и правоохранительные органы, в том числе Immigration and Customs Enforcement — ICE, службу, занимающуюся контролем миграции. Технологии Palantir применяются для поиска людей, которых подозревают в нелегальном пребывании, анализа изображений с беспилотников, подготовки дальних высокоточных ударов, а также обработки военных данных и планирования операций.

ИИ действительно может быть удобен тем, кому нечего скрывать и кто уверен, что всегда находится на стороне «хороших». Но понятие «хорошие» меняется вместе с политикой, ведомствами и списками подозреваемых. Поэтому кризис доверия к ИИ возник не из воздуха: пока технология обещает спасение человечества, а чаще помогает наблюдать, увольнять и принимать решения без понятного виновника.