AI-код: красиво, но опасно?

Когда Марк Андриссен заявил, что «программное обеспечение поглощает мир», мало кто предполагал, что со временем писать этот самый софт будут не только люди, но и искусственный интеллект, а порой – переписывать его за нами. Сегодня ИИ позволяет создавать программный код со скоростью, которую еще недавно можно было бы принять за фантастику. Но вместе с ней пришла и новая, незаметная на первый взгляд проблема: технический долг, создаваемый самими ИИ.

В 2024 году разработчиками с помощью современных инструментов искусственного интеллекта было сгенерировано больше 256 миллиардов строк кода, и в следующем году эта цифра, скорее всего, удвоится. Технологии Generative AI (создающий ИИ) стали незаменимыми: например, Microsoft отмечает, что до 30% их кода теперь пишет искусственный интеллект — и эта доля продолжает расти. Программисты теперь могут не только писать, но и тестировать и модернизировать код с неслыханной ранее скоростью.

Но в этой гонке за эффективностью кроется и обратная сторона: ИИ не только решает проблемы устаревшего кода, но и создает множество новых, причем в промышленных масштабах. Мы вошли в эпоху «vibe coding» — когда программист задает искусственному интеллекту задачу, бегло просматривает ответы, а затем склеивает решения, часто даже не вникая, как все работает. Быстро, удобно, но крайне непрозрачно.

Такой код выглядит рабочим, но слишком часто оказывается ненадежным при внедрении в настоящих, не тестовых, корпоративных системах. Целые блоки инженерной работы — проектирование архитектуры, реальные бенчмарки, продуманное тестирование — пропускаются или откладываются «на потом». Результат: в информационные системы компаний поступает море непроверенного и малопродуктивного кода. Generative AI становится не просто помощником, а новым слоем абстракции, который скрывает инженерную сложность, но добавляет и свои старые-новые риски.

Парадоксально, но ИИ также помогает разгребать старые цифровые завалы: чистит устаревший код, отмечает неэффективности, облегчает переход на современные стандарты. В этом смысле он действительно полезен.

Однако парадокс в том, что решая старые проблемы, ИИ моментально создает новые: актуальные версии моделей часто не знают особенностей компании, её инфраструктуры, законодательства, бизнес-логики. Модели плохо видят реальные нагрузки, редко проверяют полученный код на соответствие задачам (если программист их специально об этом не попросит), а у инженеров редко есть время или инструменты на полноценную проверку.

В итоге мы получаем новую волну цифровых потерь: чрезмерные расходы на облачные мощности, нестабильность решений, слабые интеграции — всё это реализуется с пугающей скоростью. Быстрая генерация кода больше не даёт преимущества на рынке. Важно не просто быстро генерировать, а делать это с пониманием: будет ли код масштабироваться, способен ли он адаптироваться и выстоять при реальной нагрузке?

Улика в деталях: слишком много ИИ-кода делается с расчетом на «хоть что-нибудь сдать». На деле же корпоративные системы требуют, чтобы код работал в реальных условиях, под нагрузкой, без подводных затрат. Тут нужны системы, которые проверяют не только правильность, но и скорость, и эффективность решений. И это предполагает возвращение к инженерной дисциплине, даже если ИИ генерирует код всё быстрее.

Появилось новое мерило качества — жизнеспособность (viability). Теперь программисты снова возвращаются к классикам: корпоративная инженерия требует тестирования, проверки, оценки производительности. Только так можно понять, готов ли ИИ-код к реальной жизни.

Растёт интерес к сильно проработанным техническим заданиям, конструкторским ограничениям, моделям оценки результатов. Для бизнеса стало ясно: одного только Generative AI мало — нужна инфраструктура, способная верифицировать ИИ-результаты под реальную нагрузку.

ИИ навсегда изменил производство софта, но почти не повлиял на его валидацию. Мы вступаем в этап, где мало просто быстро набросать код – нужно научиться быстро и честно его проверять. Будущее за теми, кто не только генерирует, но и подвергает созданное проверке инженеров — с акцентом на производительность и пригодность для задачи.

Запускать ИИ-проекты с закрытыми глазами — значит платить больше за облако, получать «хрупкий» софт и вместо инноваций тратить время на отлов багов. И вот тут ИИ становится не решением, а новой головной болью.

Пока одни все еще уповают на чудеса ИИ, выигрывать будут те, кто найдет храбрость отказаться от магии ради старомодной инженерной проверки. Именно так и только так получится навести порядок в мире, где код уже давно пишет не человек.