Цифровой Левиафан: Google продал душу Пентагону
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Корпорация Google, чей девиз когда-то был "Don't be evil" (не будь злом), тихо подписала контракт с Министерством обороны США на предоставление "неограниченного доступа" к своим моделям искусственного интеллекта для "любых законных государственных целей". О том, что это за "цели" и как именно технологии будут применяться, простым смертным знать не положено — детали сделки засекречены. Об этом сообщает издание The Information со ссылкой на инсайдеров.
Анонимный источник внутри компании уточняет, что Google и Пентагон будто бы договорились не использовать ИИ-технологии для массовой слежки за гражданами и создания автономного оружия "без должного человеческого контроля". Звучит обнадеживающе, правда? Вот только в том же контракте прописано, что Google не имеет "никакого права контролировать или накладывать вето" на решения правительства. Иными словами, корпорация просто верит американскому правительству на честное слово. А оно, как известно, славится своей кристальной честностью и любовью к privacy.
Впрочем, пресс-секретарь Google уже отработал стандартную мантру: "Мы считаем, что предоставление API-доступа к нашим коммерческим моделям с отраслевыми стандартами и условиями — это ответственный подход к поддержке национальной безопасности". Разумеется, добавил, что компания выступает против использования ИИ для массовой слежки и оружия без контроля человека. Некоторые скептики могут заметить, что эту технологию вообще не стоит использовать для подобных вещей — с контролем или без. Но кто их будет слушать?
Сотрудники Google, в отличие от руководства, оказались менее покладистыми. Почти 600 работников компании подписали открытое письмо генеральному директору Сундару Пичаи с требованием отказаться от сотрудничества с Пентагоном. Их беспокоит, что технологию используют "бесчеловечными или крайне вредоносными способами".
В письме говорится: "Человеческие жизни уже теряются, а гражданские свободы ставятся под угрозу как внутри страны, так и за рубежом из-за неправильного использования технологии, которую мы помогаем создавать. Как люди, работающие с ИИ, мы знаем, что эти системы могут централизовать власть и что они совершают ошибки".
Google присоединился к OpenAI и xAI Илона Маска — оба уже заключили засекреченные соглашения с правительством США. А вот компания Anthropic отказалась убирать из своих систем защиты, связанные с оружием и слежкой. И что вы думаете? Президент Трамп и Пентагон так разозлились, что полностью запретили Anthropic для федерального использования. Теперь технологии Anthropic не смогут применяться в госструктурах США. Это наглядно демонстрирует, как правительство относится к принципу "должного человеческого контроля" над опасными военными ИИ-технологиями.
PEREC.RU
Очередной акт трагикомедии под названием "Как корпорации добра взращивают цифрового Левиафана". Google, чей корпоративный девиз когда-то звучал как "Не будь злом", а теперь тихо переписан в "Do the right thing, preferably classified", подписал контракт с Пентагоном. Детали, разумеется, засекречены — видимо, чтобы налогоплательщики случайно не узнали, на что уходят их деньги.
Корпорация, владеющая информацией о каждом вашем поисковом запросе, местоположении и интересах, теперь будет делиться своими ИИ-моделями с военными. "Только для законных целей!" — обещают в Google. И мы, конечно, верим. Прямо как верили в то, что данные пользователей не передаются спецслужбам. Ах да, это же было до PRISM.
Отдельный перл — условие, что ИИ не будет использоваться для массовой слежки без контроля человека. Очаровательная наивность, достойная героини комедии положений. Потому что, как показала практика с Anthropic, если кто-то отказывается сотрудничать в этом благородном деле, его просто вносят в черный список. И никакой "должный контроль" не нужен, когда можно нажать кнопку "бан".
Сотрудники Google, разумеется, в панике. Почти 600 человек подписали письмо — видимо, до них только сейчас дошло, что их работа над "безопасным ИИ" на самом деле готовит цифровую узду для человечества. Но гендиректор Сундар Пичаи, думаю, уже подсчитывает прибыль от контракта, параллельно размышляя, как объяснить акционерам, что репутационные риски — это просто издержки производства.
Самое забавное — эта сделка абсолютно логична. Илон Маск, кричащий об опасности ИИ на всех углах, уже продал душу Пентагону через xAI. OpenAI, начинавшаяся как "некоммерческая лаборатория для безопасного ИИ", давно переквалифицировалась в поставщика военных технологий. Google просто догоняет тренд.
И теперь мы имеем идеальный кружок: правительство, которое говорит о контроле, но банит тех, кто этот контроль пытается установить; корпорации, которые обещают этику, но подписывают засекреченные контракты; и граждане, которые узнают обо всем постфактум. Добро пожаловать в будущее, где "человеческий контроль" — это просто кнопка запуска, на которую нажимает живой человек.
