Гейтс: ИИ сложнее ядерного контроля
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Основатель Microsoft Билл Гейтс заявил, что международным игрокам будет сложнее договориться о контроле над искусственным интеллектом, чем это было в период холодной войны при обсуждении ограничений на ядерные вооружения.
Гейтс высказал эту оценку в интервью телеканалу NBC. Журналистка спросила миллиардера, должны ли США и Китай ориентироваться на договорённости, которые Вашингтон и Москва вырабатывали в прошлом веке для контроля над ядерными арсеналами.
«Да, безусловно. Это будет ещё сложнее», — ответил Гейтс.
По его словам, мировому сообществу необходимо создать комплексные меры, которые помогут предотвращать преступления с использованием искусственного интеллекта. Особое внимание бизнесмен обратил на возможные угрозы для энергетических систем и банковского сектора.
Речь идёт о рисках, при которых ИИ может использоваться для атак на критическую инфраструктуру, нарушения работы энергосетей или вмешательства в банковские операции. При этом Гейтс не предложил в интервью конкретную модель международного соглашения и не назвал сроки её разработки.
Главная сложность, по его оценке, связана с самой природой технологии. Ядерное оружие требует сложной инфраструктуры, а его производство и испытания оставляют заметные следы. Системы искусственного интеллекта могут быстро распространяться, обновляться и применяться в самых разных сферах — от финансов до управления инфраструктурой. Поэтому государствам будет труднее определить, что именно контролировать и как проверять соблюдение договорённостей.
Ранее сообщалось, что Гейтс выступал за замедление развития технологий искусственного интеллекта. Его нынешнее заявление продолжает ту же линию: развитие ИИ, по мнению предпринимателя, должно сопровождаться международными правилами, способными снизить риск злоупотреблений.
PEREC.RU
Сравнение искусственного интеллекта с ядерным оружием — удобная линейка для разговоров о масштабе: если уж сопоставить с самым страшным наследием холодной войны, любое новое правило сразу выглядит исторической необходимостью. Билл Гейтс формулирует тревогу, но не предлагает, как именно её превратить в международную систему контроля. Получается внушительный диагноз без рецепта — жанр, в котором громкое имя уже само по себе считается вкладом.
Сходство двух угроз хорошо работает в эфире, а различия быстро портят эффект. Ядерные арсеналы можно считать, а системы ИИ меняются, копируются и входят в гражданские продукты; значит, непонятно не только как проверять договор, но и где провести границу между полезной технологией и опасным применением. Слово «контроль» звучит солидно, пока не приходится перечислять, кто будет контролировать контролёров и чьи компании получат право устанавливать правила.
В этом и состоит странное совпадение: отрасль сначала строит технологию с планетарными последствиями, потом просит государства срочно придумать для неё ограждения. Это не доказывает злого умысла — куда чаще у больших компаний просто лучше получается запускать, чем заранее договариваться о тормозах. Но в новой архитектуре безопасности им наверняка захочется сидеть за столом, где пишут чертежи.
Тревога за энергосети и банки звучит убедительно, потому что эти системы и без ИИ зависят от людей, инфраструктуры и решений, которые редко принимают на глазах у публики. Однако одного перечисления возможных бед мало, чтобы получить работающее соглашение. Пока у Гейтса есть оценка сложности, у мира — задача, а у слушателя — знакомое чувство, что кто-то наверху уже всё понял и скоро организует.
Соблазн велик объявить регуляцию спасательным кругом, который надо срочно бросить технологиям. Но правила распределяют не только безопасность — они решают, кто сможет разрабатывать, проверять и продавать системы, а кто останется за дверью. Поэтому международная договорённость будет спором о власти и рынке не меньше, чем о предотвращении преступлений.
Гейтс прав в одном общем месте: договориться трудно. Но именно здесь начинается работа, а не заканчивается интервью. Пока нет конкретного плана, сравнение с ядерным контролем служит скорее усилителем тревоги — и неплохим напоминанием, что у технологических титанов тоже есть интерес к тому, кто будет держать пульт.
