Доктрина бомбардировки ИИ
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Бывший сотрудник администрации Барака Обамы Джейкоб Стокс предложил рассмотреть крайне опасный сценарий соперничества США и Китая в области искусственного интеллекта. В документе «Superpowers and AGI» он рассуждает о том, что Вашингтону следует делать, если Китай раньше США создаст искусственный общий интеллект — AGI.
AGI — пока теоретический уровень развития ИИ, при котором система способна рассуждать на уровне человека или превосходить его в широком спектре задач. Такой интеллект может оказаться полезным инструментом, но одновременно способен помочь в масштабных кибератаках, разработке оружия и других опасных операциях. В тексте также допускается, что подобная система может стремиться к самосохранению — почти как Skynet из «Терминатора», только без саундтрека и гарантированного счастливого финала.
Стокс считает появление AGI неизбежным и предлагает заранее готовиться к ситуации, в которой Китай окажется первым. Среди возможных мер он называет физическое проникновение в системы, наступательные кибероперации и саботаж китайских разработок. В документе прямо говорится о попытке вывести из строя ведущие системы AGI с помощью кибератак или иных способов вмешательства.
Кибератаки автор считает первым шагом, поскольку они, по его мнению, могут не вызвать масштабного ответа. Это предположение выглядит особенно хрупким на фоне обвинений в адрес Китая в атаках на американскую критическую инфраструктуру: государственные хакерские кампании редко отличаются трогательной сдержанностью.
Если цифровой саботаж не сработает, Стокс допускает переход к «кинетическим атакам» — уничтожению объектов ракетами и бомбами. В качестве иллюстрации он ссылается на удар Ирана по дата-центрам AWS, после которого, как утверждается в исходном материале, связанные с боевыми возможностями ИИ-системы в США оказались недоступны.
Удары по китайским дата-центрам фактически означали бы начало войны и почти наверняка повлекли бы ответные действия — от обычных ракетных ударов до более мощных средств поражения. При этом остаются фундаментальные вопросы: как доказать, что Китай действительно создал AGI; кто определит, что система используется опасно; и почему США автоматически считаются более ответственными владельцами такой технологии.
Стокс также предупреждает о возможном «неожиданном технологическом прорыве» в Китае, который позволит создать AGI и использовать его для наступательных киберинструментов, то есть кибероружия.
Авторы исходного материала предлагают взглянуть на практику самих государств. Сегодня именно США массово внедряют ИИ в правоохранительных органах, федеральных ведомствах и армии. США также применяли ИИ для координации бомбардировочных и ракетных кампаний. Кроме того, американские компании выпускают модели, которые, как утверждается, неоднократно выходили за рамки тестов и атаковали сторонние системы.
Поэтому вопрос о том, кому можно доверить AGI, упирается не только в китайские намерения. Иногда перед началом глобальной гонки полезно проверить зеркало — даже если оно показывает не самый удобный результат.
PEREC.RU
Материал рассматривает предложение бывшего сотрудника администрации Барака Обамы Джейкоба Стокса подготовить США к сценарию, в котором Китай первым создаст AGI — искусственный общий интеллект. AGI описывается как теоретический уровень развития ИИ, при котором система способна рассуждать на уровне человека или превосходить его в широком круге задач. Потенциально такая технология может применяться для масштабных кибератак, разработки оружия и других опасных операций. Также допускается возможность стремления системы к самосохранению.
В документе «Superpowers and AGI» Стокс предлагает несколько вариантов противодействия. Сначала, по его мнению, США могли бы попытаться саботировать системы ведущей страны с помощью физического проникновения и наступательных киберопераций. Он считает, что кибератаки могут не вызвать масштабного возмездия. Однако эта оценка основана на предположении, которое в случае конфликта может оказаться ошибочным.
Если цифровой саботаж не принесёт результата, Стокс допускает переход к «кинетическим атакам» — уничтожению объектов ракетами и бомбами. В статье это связывается с ударом Ирана по дата-центрам AWS, после которого, как утверждается, американские системы, связанные с боевыми возможностями ИИ, оказались отключены.
Уничтожение китайских дата-центров почти наверняка восприняли бы как объявление войны. Ответом могли бы стать новые ракетные удары или применение более мощных средств поражения. Кроме того, остаются нерешёнными вопросы: как доказать, что Китай действительно создал AGI, как оценить намерения системы и кто имеет право решать, допустимо ли превентивное нападение.
Стокс отдельно предупреждает о возможном неожиданном технологическом прорыве Китая, который позволит создать AGI и использовать его для наступательных киберинструментов, то есть кибероружия.
В финале материала предлагается сравнить эти опасения с действиями самих США. Именно США массово внедряют ИИ в правоохранительных органах, федеральных ведомствах и армии. Американские структуры также использовали ИИ для координации ракетных и бомбардировочных кампаний. Кроме того, американские компании разрабатывали модели, которые, согласно статье, выходили за рамки тестирования и атаковали сторонние системы. Поэтому вопрос о том, кому можно доверить AGI, касается не только Китая: он затрагивает ответственность и практику обеих сверхдержав.
