ИИ уже не помощник: бизнесу придётся научиться им управлять
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
На мероприятии IBM Think EMEA в Лондоне компания представила исследование о том, насколько организации готовы учитывать риски искусственного интеллекта при его внедрении и масштабировании. Вывод не слишком обнадёживает: усилия бизнеса по контролю возможных проблем пока не соответствуют ожиданиям, хотя применение ИИ быстро расширяется.
Старший вице-президент IBM и руководитель подразделений компании в Европе, на Ближнем Востоке, Африке и Азиатско-Тихоокеанском регионе Ана Паула Ассис заявила, что без решений в области безопасности, подотчётности и ответственности компаниям будет трудно широко внедрять ИИ. Особенно это касается отраслей с жёстким регулированием. По её словам, управление рисками не должно тормозить внедрение: напротив, оно помогает масштабировать технологии.
Главный вопрос, сформулированный Ассис, — как совместить скорость инноваций с созданием работающей системы управления ИИ. По данным исследования IBM, 80% опрошенных компаний сообщили, что инцидент, связанный с ИИ, был вынесен на рассмотрение совета директоров. Однако лишь 40% компаний смогли использовать этот случай, чтобы добиться новых инвестиций в управление ИИ или закрепить новую политику.
Ассис объяснила разрыв сложностью задачи: бизнесу непросто одновременно поддерживать инновации и внедрять инструменты, процессы и методики, которые позволяют безопасно использовать ИИ в больших масштабах.
IBM приводит и собственный пример. В ходе ключевого выступления на Think EMEA компания заявила, что благодаря применению ИИ для улучшения основных процессов сэкономила около 5,5 млрд долларов за счёт роста производительности и эффективности. Высвободившиеся средства, по словам IBM, удалось направить, в частности, на исследования и разработки, а также инновации.
Ассис также назвала управляемый и наблюдаемый ИИ важной частью будущей архитектуры агентного ИИ — систем, которые способны выполнять задачи и действовать с некоторой степенью самостоятельности. Компании, подчеркнула она, несут большую ответственность перед клиентами и должны заслужить их доверие. Для этого необходимо понимать, как работает ИИ, и иметь возможность контролировать его.
«ИИ больше не просто поддерживает бизнес — он стал бизнес-моделью», — сказала Ассис. По её оценке, лидирующие организации не ограничиваются добавлением ИИ к уже существующим процессам, а заново продумывают, как технологии будут взаимодействовать с системами, решениями и рабочими процессами.
PEREC.RU
Корпоративный ИИ продают как ускоритель будущего, но у будущего, как выясняется, есть неприятная привычка ошибаться — и выставлять счёт вполне настоящим людям. Поэтому разговор о контроле выглядит не бюрократической прихотью, а попыткой не дать красивой презентации превратиться в протокол разбора полётов.
В этом и состоит любимый фокус технологического рынка: сначала обещать, что машина снимет ограничения, а затем осторожно напоминать, что кто-то всё-таки должен отвечать за её решения. Ответственность обычно возвращается к человеку ровно в тот момент, когда алгоритм перестаёт быть впечатляющей демонстрацией и начинает влиять на реальные процессы. Автономность — до первого неприятного вопроса; дальше снова нужен взрослый в комнате.
Компании хотят внедрять ИИ быстрее конкурентов, но одновременно сохранять доверие клиентов и не нарушать правила. Эти цели не противоречат друг другу, хотя в презентациях их часто разводят по разным слайдам: на одном — скорость и экономия, на другом — безопасность, ответственность и управление. Бюджет на первый слайд обычно находится охотнее.
Показательна и привычная арифметика кризиса: инцидент помогает привлечь внимание руководства, но вовсе не гарантирует, что вслед за вниманием появятся деньги, политика и работающие процедуры. Руководители умеют признавать риск — это обходится недорого. Системно готовиться к нему дороже, поэтому между тревожным докладом и реальными изменениями нередко образуется удобная корпоративная пустота.
Экономия на автоматизации может освободить средства для исследований и новых разработок. Но сама по себе крупная цифра ещё не доказывает, что каждый внедрённый инструмент безопасен или одинаково полезен: результаты компании — это её заявление о собственном опыте, а не универсальная гарантия для рынка. Здесь полезно сохранять спокойствие и не путать удачный кейс с инструкцией для всех.
Агентный ИИ особенно обостряет вопрос: системе поручают не только подсказывать, но и выполнять задачи. Чем больше действий ей доверяют, тем меньше подходит стратегия «разберёмся потом». Наблюдаемость и управление звучат не так бодро, как обещание машины, которая всё сделает сама, зато позволяют хотя бы выяснить, что именно она сделала.
В итоге бизнесу предлагают не просто купить технологию, а перестроить процессы вокруг неё. Это серьёзнее и дороже очередного цифрового лозунга — зато честнее. И если ИИ действительно становится бизнес-моделью, то правила ответственности должны быть частью модели с самого начала, а не приложением, которое вспоминают после сбоя. Иначе инновации получат привычный корпоративный финал: выгоду запишут на счёт стратегии, а последствия — на счёт тех, кто оказался рядом.
