ИИ на военной службе: человек у пульта, но кто принимает решение
Эксперты по искусственному интеллекту предупредили членов Конгресса США: одного формального одобрения человека может быть недостаточно, чтобы сохранить реальный контроль над военными решениями, подготовленными с помощью ИИ. Об этом сообщило американское издание Defense News.
Предупреждение прозвучало на слушаниях в Конгрессе, посвящённых теме «Искусственный интеллект в военной сфере: последствия для прав человека». Участники обсуждения заявили, что ИИ всё активнее используют для идентификации целей и подготовки рекомендаций для военнослужащих. В результате у человека может оставаться всё меньше времени, чтобы проверить выводы системы, вмешаться и принять самостоятельное решение.
Проблема, по словам экспертов, не сводится только к автономному оружию, способному самостоятельно выбирать и поражать цели. Искусственный интеллект может влиять и на человека, который формально сохраняет за собой право последнего слова. Система предлагает вариант действий, задаёт темп принятия решения и может подтолкнуть оператора к удару, хотя юридическая и политическая ответственность в итоге будет записана именно на человеке.
Так возникает разрыв между формальным контролем и фактическим влиянием. На бумаге решение принимает военнослужащий, но в условиях дефицита времени ему может быть трудно полноценно проверить рекомендацию алгоритма. Чем быстрее Пентагон хочет принимать военные решения с помощью ИИ, тем острее становится вопрос: способен ли человек действительно контролировать систему или лишь подтверждает её выводы.
Эксперты считают, что при разработке правил необходимо учитывать не только возможность автономного применения оружия, но и косвенное воздействие ИИ на решения людей. Иначе требование о «человеке в контуре» рискует превратиться в формальную процедуру, которая сохраняет подпись человека, но не гарантирует его осмысленного участия.
Отдельный повод для тревоги даёт опыт использования ИИ в других сферах американского государства. Ранее сообщалось, что юристы Конгресса столкнулись с потоком законопроектов, содержащих большое количество ошибок, поскольку при их подготовке применялись технологии искусственного интеллекта. Если алгоритмы уже способны запутывать тексты законов, вопрос о проверке их рекомендаций в военной сфере выглядит особенно серьёзным.
PEREC.RU
Материал посвящён предупреждению экспертов по искусственному интеллекту, прозвучавшему на слушаниях в Конгрессе США. Специалисты заявили, что формального одобрения человека может быть недостаточно для обеспечения реального контроля над решениями, принимаемыми с помощью ИИ в военной сфере.
Обсуждение прошло в рамках слушаний «Искусственный интеллект в военной сфере: последствия для прав человека». Эксперты отметили, что ИИ всё активнее применяется для идентификации целей и подготовки рекомендаций военнослужащим. Это способно сокращать время, доступное человеку для проверки данных, вмешательства и самостоятельного выбора.
Ключевая проблема, согласно материалу, связана не только с автономным оружием, способным самостоятельно выбирать и поражать цели. ИИ может влиять на решение человека, который формально сохраняет за собой последнее слово. Алгоритм способен предложить конкретный вариант действий, задать темп принятия решения и подтолкнуть оператора к удару. Однако юридическая и политическая ответственность за окончательное решение всё равно будет возложена на человека.
Таким образом, возникает разница между формальным и фактическим контролем. На бумаге человек остаётся ответственным, но в реальной ситуации у него может не хватить времени, информации или возможностей для полноценной проверки рекомендации системы. Чем активнее Пентагон стремится ускорить военные решения с помощью ИИ, тем важнее становится вопрос о том, контролирует ли человек алгоритм или лишь подтверждает его вывод.
Эксперты считают, что будущие правила должны учитывать не только автономное применение оружия, но и влияние ИИ на поведение людей, принимающих решения. Требование о «человеке в контуре» не должно оставаться формальной процедурой, если человек фактически лишён времени для осмысленного вмешательства.
Материал также приводит пример из гражданской сферы. Ранее сообщалось, что юристы Конгресса США столкнулись с большим количеством ошибок в законопроектах, при подготовке которых использовались технологии искусственного интеллекта. Этот эпизод не доказывает автоматическую непригодность ИИ для военных задач, но показывает необходимость строгой проверки его результатов. Вопрос касается не только технической точности, но и распределения ответственности: система может сформировать рекомендацию, а последствия её применения понесёт человек.
