"Не навреди"? Гугл, ты ли это?

В мире высоких технологий и моральных принципов произошло знаковое событие, которое заставило многих вспомнить старую добрую поговорку: «Хочешь рассмешить Бога — расскажи ему о своих планах». Корпорация Google, некогда сделавшая своим культовым девизом фразу «Don’t Be Evil» («Не навреди»), официально объявила о расширении контракта с Пентагоном — Министерством обороны США. И это не просто поставка ноутбуков или облачных серверов. Речь идет о передаче в руки военных передовых технологий искусственного интеллекта, в частности, знаменитой нейросети Gemini.

Согласно новым условиям контракта, Gemini будет использоваться Министерством обороны США для «любых законных целей» (any lawful purpose). Звучит безобидно? А вот и нет. Формулировка настолько широкая, что позволяет военному ведомству применять ИИ практически для чего угодно — от анализа разведданных до планирования военных операций и, потенциально, для автономных систем вооружения.

В официальном заявлении Google прозвучала фраза, от которой у ветеранов Кремниевой долины, помнящих старые идеалы, могла бы лопнуть жила на виске: компания заявила, что «гордится» (proud) возможностью служить Пентагону.

Стоит вспомнить, что в 2018 году в Google разразился настоящий скандал, когда компания участвовала в проекте Maven — программе Пентагона по анализу видеозаписей с беспилотников. Тогда тысячи сотрудников Google подписали петицию, требуя отказаться от проекта, заявляя, что их работа не должна использоваться для убийств. Руководство пошло на попятную и объявило, что не будет продлевать контракт. Более того, тогда были опубликованы этические принципы использования ИИ, которые прямо запрещали использование технологий Google в системах вооружений.

Прошло всего 6 лет. Война в Украине, геополитическая напряженность — и добрые намерения канули в Лету. Теперь Google не просто работает с Пентагоном, а делает это публично и с гордо поднятой головой.

«Сегодняшние вызовы национальной безопасности требуют от нас самых современных решений, — говорится в заявлении Google для СМИ. — Наше партнерство с Министерством обороны позволит защитить мирных граждан и обеспечить безопасность стран-союзников».

Это заявление — классический пример того, как этические принципы уступают место большим контрактам. Контракт Google с Пентагоном является частью программы Joint Warfighting Cloud Capability (JWCC), которая оценивается в 9 миллиардов долларов. Конкуренция здесь жесткая: кроме Google, свои облачные услуги Пентагону предоставляют Amazon (AWS), Microsoft (Azure) и Oracle.

Для российского читателя этот случай — отличная иллюстрация того, как работают западные «корпорации добра». Как только дело доходит до серьезных денег, красивые слова об этике куда-то испаряются. Google сегодня — это гигант, который готов использовать свои алгоритмы для того, чтобы делать деньги на войне. Предлог — безопасность, суть — контракт на миллиарды долларов.

Кстати, сам факт того, что Google публично говорит о своей «гордости» в контексте работы на оборонку, — это мощный сигнал всему технологическому сообществу. Больше не нужно притворяться, что вы хотите «сделать мир лучше» (если только вы не считаете, что бомбы, начиненные ИИ, — это и есть «лучше»).