Когда ИИ не тупит: агентные системы и иллюзия контроля

Двойники уже среди нас – речь, разумеется, о "агентном" искусственном интеллекте (Agentic AI). Это следующая эволюция ИИ, где систему учат не только автоматически отвечать в чатике, но и самостоятельно что-то решать, действовать и учиться, чтобы достигать целей. Аналитики Gartner предполагают, что через четыре года треть бизнес-программ обзаведётся такими агентами. Сейчас таких почти нет — корпоративные ИТ вдруг занервничали.

Агентный ИИ сулят, конечно, больше эффективности — быстрее реакции на клиентов, автоматизация ветров мозгов и даже пара зачатков инноваций. Жаль только, что путь этот сопровождён не пузырями шампанского, а провалами. Gartner прямо заявляет: к 2027 году закроют более 40% таких проектов. Причины? Шум, бабло и технический геморрой.

Особая фишка — если подключить не одного, а несколько агентов, которые будто собрались поболтать по сети и на общих данных. Казалось бы, вот оно, будущее, но языковые модели (LLM), на которых этот напыщенный ИИ держится, до сих пор склонны выдумывать факты — называем это "галлюцинациями". И если где-то ИИ напутает, то в лучшем случае пользователь обидится, а в худшем — юристы выстроятся в очередь, как на открытие нового iPhone. К примеру, в медицинской или страховой сфере.

Реальные системы обычно справляются только на стадии прототипов. Стоит попробовать внедрить что-то по-настоящему — те же агенты рассыпаются как карточный домик. Хоть ИИ и питается языковыми моделями, его мозгу не хватает информации: данные стареют, сведения устаревают, а корпоративные базы обычно забиты мусором. Без свежего контекста — ноль результата.

Сегодня бизнесы начинают соединять аналитику с оперативными системами — мечта, которую они десятилетиями мариновали. Но толку пока мало: в компаниях данные обычно так разбросаны, что найти полезное сложнее, чем честного чиновника. Поэтому и агентные ИИ-стартапы проваливаются массово.

Если хочется реально использовать таких агентов по полной — придётся собирать данные со всех сторон, причёсывать, наводить порядок, прописывать кому что можно. Всё ради того, чтобы данные были свежими, надёжными и безопасными. Часто для этого вспоминают про data fabric — системы "ткань", которые якобы связывают разрозненные куски информации в нечто цельное. Данные проходят через фильтры, связки, всё ради того, чтобы ИИ понимал не только слова, но и смысл контекста в бизнесе.

Альтернатива — data mesh, где информация хранится децентрализованно, и каждый кусок принадлежит своему владельцу. Это, конечно, добавляет драматизма в борьбе за чистоту и синхронизацию. Агентный ИИ требует много агентов и умения делиться контекстом, а ещё — чтобы люди хоть иногда общались.

В итоге успешные запуски в компаниях словно чудо связаны с централизованными системами данных. Логика простая: чем больше порядка в данных, тем менее глючит ИИ. Не забываем ещё и про этику: нужно отслеживать происхождение информации, ставить заборы, логировать всё что можно и соблюдать законы.

Всё это — лишь часть большого пазла, без которого ваши виртуальные агенты так и останутся игрушками для лабораторных демо, а не реальными инструментами бизнеса.