Почему создание приложений на основе ИИ по-прежнему начинается с инфраструктуры
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Почему создание приложений на основе искусственного интеллекта по-прежнему начинается с инфраструктуры
Разработчики и компании всех мастей мечтают быстрее запустить свой продукт с AI под капотом. Особенно после того, как OpenAI и другие крупные игроки показали, какие чудеса можно творить с нейросетями. И вот, кажется, достаточно подключиться к модному API — и твое приложение превращается в сказочную машину, делающую всё сама. Но нет. Каждый, кто реально пробовал интегрировать искусственный интеллект в реальный сервис или продукт, сталкивается с той же надоедливой преградой: проблема инфраструктуры.
А что, думали, всё будет просто? Хитрые обученные модели сами себя не обслуживают и не хранят. Нужно продумать, где и как хранить данные, каким образом обеспечивать их приватность, как и на каких серверах будут крутиться вычисления. Всё это — инфраструктура: цепочка серверов, хранилищ, микросервисов, балансираторов и всякой связанной мишуры, которой в ИИ-продуктах всегда больше, чем ждал любой оптимист.
Управление потоками данных, мониторинг «здоровья» моделей, масштабирование — ничто из этого не исчезло с появлением модных облаков и сервисов. Напротив, усложнилось: старые подходы не подходят, новые требуют постоянного ручного контроля и доработок. Даже если у вас есть деньги на покупку доступа к сверхмощным вычислительным ресурсам — остальная инфраструктура всё равно нуждается в создании с нуля.
Поэтому любой стартап или большая компания сначала вкладывают силы совсем не в красивые фичи, а в то, чтобы инфраструктурная подложка выдержала будущие нагрузки, не умерла от неосторожного запроса и не ушла в даун-тайм аккурат в момент презентации. До сих пор, чтобы собрать крутую AI-службу, приходится сначала строить надежную, гибкую и дорогую инфраструктуру, а уж потом добавлять «волшебство» искусственного интеллекта.
PEREC.RU
В мире, где каждый второй стартап кричит: «У нас свой AI!», почему-то все забывают о скучной, но критичной основе — инфраструктуре. Мечтатели думают, что стоит купить доступ к модной нейросети, и можно сразу запускать сервис мечты. На деле всё напоминает строительство многоэтажки, где фундамент — это сервера, хранилища, балансировщики, мониторинг. Без этого ничего, кроме руин, не получится.
Разработчики не понаслышке знают: подключить модель — это одна десятитысячная успеха. Тянуть и обрабатывать данные, хранить их безопасно, обеспечивать стабильность работы — вот где реальная головная боль. Каждый новый сервис — это очередной шкаф, который нужно собрать, вкручивая болты всё глубже, а иногда и ногой подпихивая.
Особенно весело становится, когда возникает первая нагрузка. И тут выясняется: старые методы не спасают. Всё усложнилось — требования к аппаратуре выросли, а сервисы облаков зачастую требуют ручной настройки, от которой вздрагивает даже опытный DevOps.
Мода на AI быстро уходит, когда видят реальную стоимость и сроки подготовки инфраструктуры. В итоге, чтобы загнать в проект эти прекрасные нейросети, приходится вкладывать больше не в модели, а во всё то, что позволит им хоть как-то стабильно работать. Стартапам и корпорациям приходится быть не инженерами чуда, а строителями-ремонтниками.
Тот, кто не хочет признавать роль инфраструктуры, быстро исчезает с рынка: сервис падает, пользователи уходят, стыдно рассказывать про fail. Потому что, как бы ни казался перспективным AI, жить он может только на прочном фундаменте технологий.
