ИИ чуть не начал войну

ИИ чуть не начал войну: в США военные едва не захватили китайское судно из-за выдуманной угрозы
Американские военные почти начали операцию против китайского судна после того, как система искусственного интеллекта неверно проанализировала разведданные и сообщила, что на борту якобы находятся ядерные вооружения. Позднее оценку назвали «полностью ложной», а один из источников охарактеризовал ситуацию жёстче: она «чуть не начала войну».
Инцидент произошёл во время конфликта с участием Ирана. По данным источников, вооружённые военнослужащие готовились подняться на судно, а военные самолёты обеспечивали поддержку операции. Таким образом, ошибка в документе почти превратилась в прямое столкновение двух ядерных держав.
Всё началось с анализа сведений о судовом манифесте — перечне груза и сопроводительной информации. Аналитик использовал чат-бот, который сопоставил открытые материалы с данными радиоэлектронной разведки. В результате система неправильно определила содержимое груза.
Затем аналитик снова применил ИИ — на этот раз для оформления выводов в стандартном разведывательном формате. Документ разошёлся среди военных чиновников. Ошибка обнаружилась лишь незадолго до запланированной операции, когда специалисты наконец проверили исходные сведения и выяснили, что заявленный груз идентифицирован неверно.
Что именно система перепутала, публично не раскрывается. Неизвестно также, знал ли аналитик об ошибке до распространения документа и какие процедуры проверки прошёл отчёт. Пентагон и командование, отвечающее за специальные операции США в Тихоокеанском регионе, от комментариев отказались.
История произошла на фоне стремительного внедрения ИИ в американские вооружённые силы. Технологии используют для разведки, планирования операций, административных задач и поддержки решений на поле боя.
В январе министр обороны США Pete Hegseth объявил стратегию, призванную ускорить внедрение ИИ. Он пообещал убрать бюрократические барьеры, расширить эксперименты и обеспечить лидерство США в военных технологиях. Позднее министерство сообщило, что более 1,3 млн военнослужащих и сотрудников воспользовались системой GenAI.mil, отправив за пять месяцев десятки миллионов запросов.
Проблема оказалась не в обычной ошибке чат-бота. Неверный вывод попал в официальный разведывательный документ, который использовался для подготовки реальной военной операции. При этом разные подразделения применяют разные ИИ-системы и по-разному проверяют их ответы, поэтому единого стандарта контроля, судя по всему, нет.
ИИ действительно способен ускорить анализ, но в военной сфере его «уверенная галлюцинация» может стоить гораздо дороже испорченного отчёта. Особенно опасны ошибки в оценке действий соперника: неверное решение в отношении военного судна способно вызвать ответный удар, рост напряжённости и более широкий вооружённый конфликт.