Папа Лев XIV требует регулирования ИИ: «Технологии не бывают нейтральными»

Папа Лев XIV, нынешний глава Католической церкви, выступил с программной энцикликой о необходимости строгого регулирования искусственного интеллекта (ИИ). Документ под названием Magnifica Humanitas («Великолепная человечность») был представлен 25 мая в Ватикане вместе с высокопоставленными церковными деятелями и ведущими специалистами по ИИ. Это первый крупный документ Льва XIV по теме ИИ, и он выходит на фоне бурного развития технологий, которые все заметнее влияют на все сферы человеческой жизни: от труда до войны.

Папа ранее уже отмечал, что ИИ — это едва ли не самая большая проблема, стоящая перед человечеством. В этот раз он открыл огонь по «культуре силы», которая, по его мнению, лежит в основе гонки ИИ и особенно заметна в разработках для «дистанционной войны» — когда уничтожение людей отдано на откуп алгоритмам. За свою критику войны с Ираном понтифик уже получил в свой адрес упреки со стороны американского президента Дональда Трампа, но останавливаться не намерен: теперь он заявил, что позволять автономным системам принимать решения о чьей-то смерти — уже совсем недопустимо.

В своей речи Папа практически потребовал «разоружить» искусственный интеллект — термин, который он использует намеренно резко, чтобы привлечь внимание общества и встряхнуть человеческие совести. По мнению Льва XIV, сегодня недостаточно говорить об «этике» в вакууме: нужны крепкие законы, независимый контроль, информированные пользователи и политическая структура, не уходящая от ответственности. Он подчеркивает — если мораль будет определять «группа избранных», ничего хорошего из этого не выйдет.

Папа вновь и вновь призывает не только разработчиков ИИ, но и политиков задуматься над своими действиями: технике нужны не только прагматичные, но и этические, и духовные ориентиры. Нужно выбирать не выгоду и власть, а общее благо. Он особо критикует тот факт, что использование ИИ ускорило «нормализацию войны», делая нас менее чувствительными к человеческим жертвам и ускоряя возникновение конфликтов, причем они становятся безличными. Он настаивает: решения о нанесении ударов должны приниматься по четким, прозрачным критериям.

Среди предложенных Папой обязательных условий — полный запрет на автоматизацию смертельной силы и международные правовые рамки, чтобы сдерживать гонку технологий и гарантировать защиту гражданского населения. Лев XIV констатирует: пока денежная выгода ставится выше сохранения рабочих мест и человеческого достоинства, экономика не служит общему благу и подрывает сам смысл человека как меры всех вещей.

Ситуация развивается на фоне быстрой экспансии ИИ: например, сервис потоковой музыки Deezer недавно сообщил, что почти половина новых композиций на их платформе создается программами, а не людьми. Всего таких треков поступает около 75 тысяч в сутки, что составляет уже 44% от общего количества. Год назад это было только 10%. В ходе проведенного опроса 97% слушателей не смогли отличить «живую» музыку от искусственно сгенерированной, а 52% признались, что их это всерьез тревожит. Массовое внедрение ИИ уже вызывает закономерные вопросы и у властей: правительство Великобритании недавно отказалось от идеи позволить ИИ без спроса использовать защищенные авторским правом произведения, но эксперты считают, что этого недостаточно — контроль и ответственность нужны гораздо шире.