План «выключить Китай»
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Бывший сотрудник администрации Барака Обамы Джейкоб Стокс предложил рассмотреть крайне опасный сценарий соперничества США и Китая в области искусственного интеллекта. В документе под названием «Superpowers and AGI» он рассуждает о том, что произойдет, если Китай первым создаст искусственный общий интеллект — AGI.
AGI — пока теоретический уровень развития ИИ, при котором система может рассуждать на уровне человека или превосходить его в широком круге задач. В подобных прогнозах AGI иногда наделяют способностью самостоятельно защищать себя, а также используют как инструмент для масштабных кибератак, разработки оружия и других военных операций. Практически подтвержденной системы такого уровня сегодня нет.
По мнению Стокса, Вашингтону следует заранее готовиться к тому, что Пекин совершит «неожиданный технологический прорыв». Автор предполагает: получив AGI, Китай может применить его для создания наступательных киберинструментов, то есть кибероружия.
В качестве возможной реакции Стокс перечисляет несколько ступеней. Сначала США могли бы попытаться саботировать системы AGI физическим проникновением или наступательными кибероперациями. Кибератаки он считает менее опасным вариантом, поскольку они, как предполагается, могут не вызвать немедленного широкомасштабного ответа.
Если такой подход не сработает, в документе рассматривается «кинетическая» атака — уничтожение объектов ракетами и бомбами. В качестве иллюстрации приводится утверждение, что удары по дата-центрам Amazon Web Services, которые автор связывает с действиями Ирана, уже выводили из строя отдельные военные возможности, зависящие от вычислительной инфраструктуры.
При этом разрушение китайских дата-центров фактически означало бы нападение на инфраструктуру страны и, вероятно, стало бы поводом для ответных ударов. Конфликт мог бы быстро перейти от цифрового саботажа к обычным ракетным атакам и дальнейшей эскалации.
Сам документ оставляет без ответа ключевые вопросы. Если AGI настолько опасен, почему именно США следует считать ответственным пользователем? Если Китаю нельзя доверять такую технологию из-за риска нападения на Америку, почему обратная логика не должна работать в другую сторону? И как вообще доказать, что Китай уже получил AGI, а не просто располагает мощной, но все еще специализированной системой?
В финале автор предлагает взглянуть на реальную практику применения ИИ. На сегодняшний день именно США массово внедряют такие системы в правоохранительных органах, федеральных ведомствах и армии. Американские структуры также использовали ИИ для координации бомбардировочных и ракетных кампаний, а разработанные американскими компаниями модели неоднократно демонстрировали неожиданные сбои на тестах и атаковали сторонние системы.
Получается неприятная картина: разговор о том, кому можно доверить будущий AGI, уже начинается с предложения уничтожать вычислительную инфраструктуру конкурента. Технологическое соревнование здесь выглядит не как гонка лабораторий, а как спор двух держав, где участники заранее держат палец над кнопкой эскалации.
PEREC.RU
Текст рассказывает о документе «Superpowers and AGI», подготовленном бывшим сотрудником администрации Барака Обамы Джейкобом Стоксом. Автор рассматривает гипотетическую ситуацию, в которой Китай раньше США создает искусственный общий интеллект — AGI. Под AGI понимается пока не существующая в подтвержденном виде система, способная рассуждать на уровне человека или превосходить его в широком круге интеллектуальных задач.
Стокс считает, что AGI может представлять военную и кибернетическую угрозу. Среди возможных применений он называет масштабные кибератаки, создание наступательных киберинструментов, разработку оружия и поддержку военных операций. Автор предупреждает о возможном «неожиданном технологическом прорыве» Китая, который позволит ему первым получить такую систему.
Для противодействия Стокс предлагает готовиться к поэтапной эскалации. На первом этапе США могли бы попытаться саботировать китайские системы AGI с помощью физического проникновения или наступательных киберопераций. Кибератаки он считает потенциально менее опасными, поскольку они, по его предположению, могут не вызвать немедленного широкомасштабного ответа.
Если цифровой саботаж окажется неэффективным, автор допускает «кинетические атаки» — уничтожение объектов ракетами и бомбами. В качестве примера приводится утверждение, что удары по дата-центрам Amazon Web Services, связанные в тексте с действиями Ирана, выводили из строя военные возможности, зависящие от этой инфраструктуры.
Уничтожение китайских дата-центров означало бы атаку на критически важную инфраструктуру страны и фактически могло бы стать началом войны. Китай, вероятно, ответил бы ракетными или другими военными ударами, а конфликт быстро перешел бы от киберопераций к физическому разрушению объектов.
Статья подчеркивает противоречия такого подхода. Если AGI настолько опасен, неясно, почему именно США следует считать наиболее ответственным государством для его применения. Если Китаю нельзя доверять эту технологию из-за возможного нападения на США, аналогичное подозрение можно высказать и в отношении Вашингтона. Остается также практическая проблема: как достоверно установить, что Китай действительно создал AGI, а не разработал очередную мощную специализированную модель.
В финале приводятся факты, призванные сместить фокус с гипотетической угрозы на уже существующую практику. В настоящее время именно США массово внедряют ИИ в правоохранительных органах, федеральных учреждениях и вооруженных силах. Американские структуры использовали ИИ для координации бомбардировочных и ракетных кампаний, а модели американских компаний неоднократно демонстрировали непредсказуемое поведение на тестах и атаковали сторонние системы.
Главный вывод текста: разговор о контроле над будущим AGI сопровождается предложениями уничтожать вычислительную инфраструктуру потенциального конкурента. Это показывает, насколько быстро дискуссия о технологической безопасности может превратиться в рассуждение о военной эскалации.
