Эволюция кода без рук

Команда исследователей института AIRI представила инструмент под названием KernelEvo — систему автоматической генерации и оптимизации GPU-ядер. Это специализированные фрагменты кода, которые выполняются на графических процессорах и обеспечивают ключевые операции в современных системах искусственного интеллекта: умножение матриц, свёртки, нормализации, агрегации и другие вычисления. Обычно разработка таких ядер требует глубоких знаний о структуре GPU, ручного подбора схем параллелизации и многократного тестирования. KernelEvo предлагает заменить утомительные ручные итерации автоматическим поиском оптимального решения. Вместо традиционного подхода "написал — проверил — переделал" фреймворк генерирует множество вариантов кода на CUDA или Triton, прогоняет их через тесты, профилирует, исправляет ошибки и повторяет цикл. В процессе может быть создано до миллиона токенов кода и комментариев, что позволяет исследовать огромное пространство возможных реализаций. Несмотря на то что сам процесс генерации и тестирования требует вычислительных ресурсов, при регулярном использовании он экономически выгоден, поскольку итоговый выигрышь в производительности сокращает затраты на обучение и эксплуатацию ИИ-моделей. Современные компании, работающие с GPU, выбирают между несколькими подходами: полностью ручной разработкой, использованием больших языковых моделей как помощников, автоматическими циклами с обратной связью вроде KernelEvo или полностью автономными системами, способными самостоятельно находить стратегии оптимизации. Переход к более автоматизированным методам снижает требования к редким специалистам и делает производительность систем более предсказуемой. Для бизнеса GPU-ядро становится элементом юнит-экономики. Если ключевая операция ускоряется хотя бы в полтора-два раза, это напрямую отражается на стоимости экспериментов, скорости обучения моделей и затратах на облачную инфраструктуру. В крупных кластерах такие улучшения масштабируются до значительных экономических эффектов. Автоматизация разработки ядер уменьшает зависимость от специалистов по низкоуровневой оптимизации, облегчает масштабирование команд и помогает компаниям быстрее выводить продукты на рынок. Генеральный директор AIRI, доктор физико-математических наук Иван Оселедец отметил, что в условиях растущей конкуренции эффективность обучения и работы моделей становится таким же важным фактором, как и качество самих моделей. KernelEvo, по его словам, демонстрирует, что стоимость ИИ-вычислений можно снижать не только через покупку более мощного оборудования, но и через интеллектуальную оптимизацию того кода, который работает на этом оборудовании. Инструмент доступен бесплатно и распространяется под лицензией MIT.