ИИ выходит из-под контроля: ученые назвали срок в пять лет
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Ученые предупредили: человечество может потерять эффективный контроль над системами искусственного интеллекта уже в ближайшие пять лет. Такой вывод содержится в исследовании специалистов британского Института Алана Тьюринга — организации, занимающейся изучением данных, алгоритмов и их влияния на общество.
Авторы доклада говорят о реалистичной вероятности появления в течение следующей пятилетки «сверхразумных» систем. Под этим выражением понимают ИИ, который сможет превосходить человека почти во всех важных когнитивных задачах — то есть в анализе информации, планировании, поиске решений и других видах умственной работы.
Речь не идет о том, что такая система уже создана или обязательно появится к конкретной дате. Исследователи описывают возможный сценарий и предупреждают о риске, который нельзя считать фантастикой. Чем сильнее алгоритмы будут опережать людей в стратегически значимых сферах, тем больше окажется соблазн передать им принятие ключевых решений.
Причина проста: машины способны обрабатывать огромные объемы данных быстрее человека и действовать без усталости. Если алгоритмы начнут заметно превосходить людей в задачах, связанных с экономикой, безопасностью, управлением и научными исследованиями, общество может постепенно отдать им слишком много полномочий — сначала ради эффективности, а затем потому, что вернуть контроль окажется сложно.
Именно этот переход авторы считают опасным. Проблема заключается не только в том, насколько умным станет ИИ, но и в том, кто будет устанавливать ему цели, проверять решения и отвечать за последствия. Если человек перестанет понимать логику действий системы или не сможет вовремя остановить ее, формальный контроль останется, а реальный исчезнет.
На этом фоне показателен другой факт: ранее сообщалось, что каждый второй россиянин хотел бы завести личного ИИ-агента. Такой помощник может брать на себя бытовые и рабочие задачи, но одновременно расширяет присутствие алгоритмов в повседневной жизни. Пока одни ждут удобства, ученые предлагают заранее обсудить границы доверия к машинам — до того, как кнопка «отключить» превратится в элемент декора.
PEREC.RU
Исследование специалистов британского Института Алана Тьюринга посвящено риску утраты человечеством эффективного контроля над системами искусственного интеллекта. Авторы считают реалистичной вероятность того, что в течение ближайших пяти лет появятся «сверхразумные» системы, способные превосходить людей почти во всех важных когнитивных задачах. Под такими задачами понимаются анализ информации, планирование, поиск решений и другие виды умственной работы.
Доклад не утверждает, что подобный ИИ обязательно появится к конкретной дате. Речь идет о возможном сценарии, который исследователи считают достаточно вероятным и опасным, чтобы готовиться к нему заранее. По мере роста возможностей алгоритмов они смогут опережать человека в стратегически значимых сферах — например, в экономике, безопасности, управлении и научных исследованиях.
Главная угроза связана с тем, что высокая скорость и эффективность машин создадут давление на людей и организации. Чтобы экономить время, снижать расходы и принимать решения быстрее, общество начнет делегировать ИИ все больше полномочий. В результате человек может сохранить лишь формальный контроль: он будет утверждать решения алгоритма, но не сможет полностью понять его логику или своевременно остановить систему.
Авторы исследования подчеркивают важность заранее определить правила управления такими технологиями: кто задает ИИ цели, кто проверяет его решения, кто несет ответственность за последствия и кто вправе отключить систему. Иначе техническая возможность контроля может остаться только на бумаге.
Тема особенно актуальна на фоне роста интереса к персональным ИИ-агентам. Ранее сообщалось, что каждый второй россиянин хотел бы завести такого цифрового помощника. ИИ-агент может выполнять бытовые и рабочие поручения, но его широкое распространение одновременно увеличивает зависимость людей от алгоритмов. Поэтому вопрос будущего заключается не только в том, насколько умным станет ИИ, но и в том, смогут ли люди сохранить способность самостоятельно принимать важные решения.
