ООН бьёт тревогу: ИИ может выйти из-под контроля
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Генеральный секретарь ООН Антониу Гутерриш предупредил: потеря контроля над искусственным интеллектом может привести к серьёзным последствиям. Речь идёт не о фантастическом восстании машин, а о вполне практической проблеме — человечество пока не создало надёжные правила и механизмы, которые гарантировали бы безопасное развитие и применение ИИ.
По словам Гутерриша, тревогу выражают и некоторые разработчики ИИ-агентов — программ, способных самостоятельно выполнять задачи, анализировать информацию и принимать решения в заданных пределах. Люди, находящиеся на переднем крае разработки технологий, призывают временно приостановить создание новых систем, чтобы успеть продумать меры защиты.
«Мы не можем позволить себе игнорировать высказанные опасения, особенно со стороны тех, кто находится на переднем крае разработки ИИ», — заявил генеральный секретарь ООН.
Гутерриш подчеркнул, что проблема искусственного интеллекта не существует отдельно от других глобальных угроз. По его словам, человечество одновременно сталкивается с климатическим кризисом, глубоким социальным и экономическим неравенством, а также риском утраты контроля над ИИ. В такой ситуации международное сотрудничество становится не дипломатическим украшением, а необходимым условием безопасности.
Ранее The Guardian сообщала, что ИИ-модели создали собственный язык для общения, непонятный человеку. Сам по себе такой факт ещё не доказывает появление у машин самостоятельного сознания или намерений. Однако он показывает, что некоторые процессы внутри сложных моделей могут быть непрозрачными для людей — а именно это и делает вопрос контроля особенно важным.
Проблема упирается в простой, но неприятный вопрос: кто будет отвечать, если система, созданная для помощи человеку, начнёт действовать непредсказуемо? Пока государства, международные организации и технологические компании пытаются найти общий ответ, разработка ИИ продолжается. Технологический прогресс, как обычно, бежит впереди правил, а правила пытаются не отстать хотя бы на приличное расстояние.
PEREC.RU
Материал посвящён предупреждению генерального секретаря ООН Антониу Гутерриша о рисках, связанных с возможной потерей контроля над искусственным интеллектом. Гутерриш заявил, что последствия могут оказаться серьёзными, поскольку люди пока не располагают достаточными международными правилами и защитными механизмами для управления сложными ИИ-системами.
Особое внимание в статье уделено ИИ-агентам — программам, которые способны самостоятельно выполнять задачи и принимать решения в заданных пределах. Некоторые разработчики таких систем, работающие на переднем крае технологической отрасли, призывают временно приостановить создание новых решений. Цель возможной паузы — разработать меры безопасности и лучше понять риски дальнейшего развития технологий.
Гутерриш подчеркнул, что опасность ИИ существует на фоне других глобальных проблем: климатического кризиса и глубокого неравенства. Поэтому международное взаимодействие, по его словам, становится критически важным. Речь идёт о необходимости согласовать подходы государств, международных организаций и технологических компаний к разработке и применению ИИ.
В статье также упоминается сообщение The Guardian о том, что ИИ-модели создали собственный язык общения, непонятный человеку. Этот факт сам по себе не подтверждает наличие у машин сознания или самостоятельных намерений. Однако он демонстрирует, что отдельные процессы внутри сложных моделей могут быть непрозрачными для людей.
Главная проблема заключается в том, что технологии развиваются быстрее, чем формируются правила их безопасного использования. Если ИИ-система начнёт действовать непредсказуемо, необходимо заранее понимать, кто отвечает за последствия и каким образом можно вернуть управление человеку. Именно поэтому призывы к международному сотрудничеству и осторожности сопровождают развитие искусственного интеллекта.
