Глобальный призыв к «красным линиям» для ИИ: когда роботы перестанут шутить?

В понедельник более 200 бывших глав государств, дипломатов, лауреатов Нобелевской премии, лидеров в области искусственного интеллекта (ИИ), учёных и представителей других сфер пришли к единому мнению: человечеству необходима международная договорённость по «красным линиям» для ИИ. Речь идёт о запретах, которые не позволят, например, ИИ прикидываться человеком или самостоятельно размножаться. К призыву присоединились более 70 организаций, занимающихся вопросами ИИ, которые подписали инициативу Global Call for AI Red Lines («Глобальный призыв к красным линиям ИИ»). Документ требует от правительств достигнуть международного политического соглашения о незыблемых границах для ИИ к концу 2026 года. Среди подписантов — ведущий британско-канадский исследователь ИИ Джеффри Хинтон, сооснователь OpenAI Войцех Заремба, директор по безопасности компании Anthropic Джейсон Клинтон, исследователь Google DeepMind Ян Гудфеллоу и другие.

"Наша цель — не реагировать постфактум на крупные инциденты, а предотвратить масштабные, потенциально необратимые риски до их возникновения", — заявил Шарбель-Рафаэль Сегери, исполнительный директор Французского центра безопасности ИИ (CeSIA). Он добавил: «Если страны пока не могут договориться, что делать с искусственным интеллектом, пусть хотя бы согласятся, чего ИИ должен никогда не делать».

Инициатива прозвучала накануне высокой недели 80-й сессии Генеральной ассамблеи ООН в Нью-Йорке. Ведут её CeSIA, Future Society и Центр совместимого с человеком ИИ Калифорнийского университета Беркли. Лауреат Нобелевской премии мира Мария Ресса упомянула о призыве в своей вступительной речи, акцентируя внимание на необходимости мировой ответственности крупных технокорпораций.

В некоторых регионах уже существуют свои запреты для ИИ. Например, в Евросоюзе действует AI Act (Закон об искусственном интеллекте), который запрещает определённые применения ИИ, признанные «недопустимыми». Кроме того, США и Китай договорились, что контроль над ядерным оружием должен оставаться у людей, а не у алгоритмов. Однако единого мирового подхода пока нет.

По мнению директора по глобальному управлению ИИ в The Future Society Ники Илиадис, одних добровольных обещаний мало — правила, введённые самими компаниями, слабо работают. Необходим независимый международный институт, способный не только формулировать «красные линии», но и следить за их исполнением.

Профессор Калифорнийского университета в Беркли и ведущий исследователь ИИ Стюарт Расселл считает, что компании могут соблюдать эти «красные линии», просто не создавая искусственный интеллект уровня AGI (общий искусственный интеллект) до тех пор, пока не будет уверенности в его безопасности. Он сравнивает ситуацию с развитием ядерной энергетики: атомные станции не строились до тех пор, пока не появились механизмы их защиты от взрывов. «Разработка ИИ может пойти по другому пути — с заботой о безопасности с самого начала, и мы должны быть уверены, что компании выбирают именно этот путь», — подчеркнул Расселл.

Он также опроверг мнение, что ограничения мешают развитию или инновациям: «Можно использовать ИИ ради экономического роста, не создавая неконтролируемый AGI. Идея, что ради медицинской диагностики приходится соглашаться на апокалипсис — полная чушь», — подытожил Расселл.