ИИ без кнопки «стоп»
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Правительство Великобритании, по данным BBC, отвергло призывы создать законный механизм экстренного отключения искусственного интеллекта. Речь идет о так называемом «kill switch» — кнопке или юридической процедуре, которые позволили бы государству быстро остановить работу ИИ-системы в случае серьезной угрозы.
В британском Кабинете министров объяснили: просто отключить ИИ невозможно. Даже если заблокировать доступ к конкретной модели или остановить работу определенной инфраструктуры, это не помешает кому-то разместить ту же модель на других серверах и использовать ее в другой юрисдикции. Иными словами, выключатель в одной стране не обесточит глобальную сеть.
Такой ответ последовал после того, как депутаты предложили закрепить в законе специальный триггер для чрезвычайных ситуаций. Он позволил бы правительству требовать остановки опасной системы при возникновении угрозы. Однако власти дали понять, что значительная часть ответственности должна оставаться у самих разработчиков. Компании, создающие ИИ-продукты, обязаны заранее внедрять необходимые ограничения и защитные механизмы.
Бывший исследователь OpenAI Danial Kokotajlo согласен: отдельной стране будет трудно создать работающий технический или юридический выключатель. По его мнению, более реалистичным вариантом может стать сотрудничество нескольких крупных компаний. Если разработчики договорятся действовать вместе, у них будет больше возможностей ограничить доступ к опасной системе.
«Отключение доступа к ИИ-модели во время чрезвычайной ситуации мало чем вам поможет, — заявил Kokotajlo, говоря о национальном выключателе. — Вас все равно сомнут суперразумы, созданные в США».
Новая волна споров началась после обсуждения в Палате лордов 1 сентября. Поводом, среди прочего, стало открытое письмо с предупреждением о «коротком окне возможностей для усиления киберзащиты». Его подписали более 100 компаний, в том числе OpenAI, Anthropic, Google, Microsoft, AWS и Adobe. Они призвали правительства, специалистов по кибербезопасности и разработчиков передовых ИИ-систем действовать совместно.
Ранее лорд Клемент-Джонс заявил, что британские службы безопасности и регуляторы не располагают специальным гибким законом, который позволил бы принудительно остановить физическую или цифровую инфраструктуру в случае появления опасного ИИ.
Пока экстренный выключатель выглядит технически и юридически нереалистичным. Остается надеяться, что компании и государственные органы хотя бы научатся заранее согласовывать правила безопасности — до того, как очередная система решит, что человечество мешает ее производительности.
PEREC.RU
Британское правительство отвергло призывы создать экстренный механизм отключения искусственного интеллекта, известный как «kill switch». Об этом сообщила BBC. Предложение обсуждалось на фоне опасений, что потенциально опасная или вышедшая из-под контроля ИИ-система может потребовать немедленной остановки.
В Кабинете министров Великобритании заявили, что государство не может просто выключить ИИ. Даже если власти запретят доступ к определенной модели или остановят инфраструктуру, на которой она работает, это не помешает разработчикам или другим пользователям разместить ту же модель на других серверах и использовать ее в другой стране. Поэтому механизм, действующий только внутри Великобритании, не сможет надежно остановить глобальную технологию.
Депутаты предлагали закрепить в законодательстве специальный триггер для чрезвычайных ситуаций. Такой механизм мог бы дать правительству право требовать физического или цифрового отключения опасной системы. Однако власти также указали, что ответственность лежит на самих компаниях, создающих ИИ. Разработчики должны заранее внедрять в продукты защитные ограничения и другие меры безопасности.
С такой оценкой согласен бывший исследователь OpenAI Danial Kokotajlo. Он считает, что отдельная страна не сможет эффективно создать ни юридический, ни технический универсальный выключатель. При этом Kokotajlo допускает, что совместные действия крупных ИИ-компаний могут стать одним из возможных решений.
Он отметил, что отключение доступа к модели в чрезвычайной ситуации внутри одной страны даст ограниченный эффект. По его словам, это не защитит людей от более мощных систем, созданных в США. Если аналогичные технологии продолжат развиваться и запускаться в других странах, локальная блокировка не устранит сам риск.
Новая волна обсуждений началась после заседания Палаты лордов Великобритании 1 сентября. Одним из поводов стало открытое письмо, в котором говорится о «коротком окне возможностей для усиления киберзащиты». Документ подписали более 100 компаний, среди них OpenAI, Anthropic, Google, Microsoft, AWS и Adobe.
Авторы письма призвали правительства, регуляторов, компании по кибербезопасности и разработчиков передовых ИИ-систем совместно снижать будущие риски. Ранее лорд Клемент-Джонс предупредил, что британские службы безопасности и регулирующие органы не имеют специального гибкого законодательного механизма, который позволил бы принудительно остановить физическую или цифровую инфраструктуру, если опасный ИИ начнет представлять угрозу.
Таким образом, создание универсального «kill switch» пока выглядит технически и юридически нереалистичным. Основной акцент смещается на международное сотрудничество, согласованные правила и ответственность разработчиков, которые должны снижать риски еще на этапе создания ИИ-продуктов.
