Majestic Labs выводит на рынок сервер Prometheus без GPU и HBM, полагаясь на ARM и десятки терабайт LPDDR6

Стартап Majestic Labs, основанный в 2023 году бывшими инженерами Google и Meta, представил сервер, задуманный в качестве альтернативы привычной комбинации графических процессоров Nvidia и скоростной памяти HBM для задач искусственного интеллекта. Компания из Тель-Авива полагает, что путь развития GPU в сцепке с HBM оказался тупиковым: именно память быстро становится основным узким местом при инференсе массивных ИИ-моделей, а стоимость такого решения выросла до небес.

Вместо GPU в их сервере Prometheus используются фирменные Ignite AI Processing Units, построенные на ядрах Arm и RISC-V векторными и тензорными блоками. Каждый сервер Prometheus поддерживает до 12 специализированных процессоров (AIU), а вместе они работают с единой, целостной памятью LPDDR6 объёмом от 8 до внушительных 128 ТБ.

Инженерное изящество решения — в способе объединения памяти. Вместо дорогой память крепится прямо на GPU, используют отдельные микро-сборки памяти (chiplets), которые объединяют медные кабели длиной до метра. Обычная стойка на 40U способна вместить четыре таких сервера (120 кВт потерь), охлаждаемых жидкостью через холодные пластины.

Для сравнения: Nvidia DGX B300 (флагман решения на GPU) приносит только 2,3 ТБ HBM3e и ещё до 4 ТБ памяти DDR5 на восемь чипов Blackwell. Majestic утверждает, что их сервер в 50 раз превосходит Nvidia по «быстрой» памяти и в 1,7 раза — по пропускной способности межсоединений. Компания даже посчитала, что одна стойка Majestic эквивалентна 25 стойкам NVL72 Vera Rubin по объёму быстрой памяти — и всё это при меньшем потреблении энергии.

Если верить обещаниям, Prometheus покажет и до тысячи раз больше памяти на один процессор и обойдётся клиенту в 10–50 раз дешевле аналогичного GPU-решения. К тому же, сервер совместим с индустриальными фреймворками — PyTorch, vLLM, Triton от OpenAI — и легко интегрируется в существующие ИИ-проекты. Серверы поддерживают требования OCP (Open Compute Project — открытый стандарт для оборудования дата-центров).

Majestic Labs основана Офером Шахамом (CEO), Ша Рабии (президент) и Мацумией Рейндерс (COO). Компания насчитывает 40 сотрудников в Тель-Авиве и Лос-Анджелесе, и в 2025 году привлекла $100 млн инвестиций. Серьёзные клиенты — крупные компании и провайдеры облаков — уже сделали предварительные заказы.

Правда, остаются неясности: для обещанных 128 ТБ LPDDR6 потребуется примерно 64 000 чипов по 2 ГБ, это потребует огромного числа объединяющих сборок (chiplets). Пока независимые тесты и «железо» не появились на рынке — всё это лишь сильные заявления самой Majestic Labs.

Покупателям из корпоративного сектора, решившим отказаться от привычных GPU-решений, придётся дождаться независимой оценки, чтобы понять, не слишком ли это всё хорошо звучит, чтобы быть правдой.