Majestic Labs lanza Prometheus, un servidor sin GPU ni HBM que apuesta por ARM y decenas de terabytes de LPDDR6

La startup Majestic Labs, fundada en 2023 por antiguos ingenieros de Google y Meta, ha presentado un servidor concebido como alternativa a la habitual combinación de GPU Nvidia y memoria HBM de alta velocidad para tareas de inteligencia artificial. La empresa, con sede en Tel Aviv, cree que la evolución de las GPU junto con HBM ha llegado a un callejón sin salida: la memoria se está convirtiendo rápidamente en el principal cuello de botella al inferir modelos masivos de IA, y el coste de esta solución se ha disparado.

En lugar de GPU, su servidor Prometheus utiliza unidades de procesamiento de IA propias, las Ignite AI Processing Units, basadas en núcleos Arm y bloques vectoriales y tensoriales RISC-V. Cada servidor Prometheus admite hasta 12 procesadores especializados (AIU), que trabajan conjuntamente con una memoria LPDDR6 unificada de entre 8 y unos impresionantes 128 TB.

La elegancia de la solución de ingeniería reside en cómo se conecta la memoria. En vez de acoplarla directamente a la GPU, como se hace con la memoria más cara, utilizan módulos de memoria independientes (chiplets) conectados mediante cables de cobre de hasta un metro. Un rack convencional de 40U puede alojar cuatro de estos servidores (con 120 kW de pérdidas), refrigerados por líquido a través de placas frías.

A modo de comparación, la Nvidia DGX B300 —la solución insignia basada en GPU— ofrece solo 2,3 TB de HBM3e y hasta 4 TB adicionales de memoria DDR5 para ocho chips Blackwell. Majestic afirma que su servidor supera a Nvidia en 50 veces en memoria «rápida» y en 1,7 veces en ancho de banda de interconexión. La empresa incluso calcula que un rack Majestic equivale a 25 racks NVL72 Vera Rubin en capacidad de memoria rápida, todo ello con un consumo energético menor.

Si se cumplen las promesas, Prometheus ofrecerá hasta mil veces más memoria por procesador y costará al cliente entre 10 y 50 veces menos que una solución equivalente basada en GPU. Además, el servidor es compatible con marcos de trabajo del sector —PyTorch, vLLM y Triton de OpenAI— y se integra con facilidad en proyectos de IA existentes. Los servidores cumplen los requisitos de OCP (Open Compute Project), un estándar abierto para equipos de centros de datos.

Majestic Labs fue fundada por Ofer Shaham (director ejecutivo), Sha Rabii (presidente) y Matsumiya Reinders (directora de operaciones). La empresa cuenta con 40 empleados en Tel Aviv y Los Ángeles, y en 2025 captó 100 millones de dólares en inversiones. Grandes empresas y proveedores de servicios en la nube ya han realizado pedidos anticipados.

Aun así, quedan dudas: para alcanzar los 128 TB de LPDDR6 harían falta unos 64.000 chips de 2 GB, lo que exigiría un enorme número de módulos de interconexión (chiplets). Hasta que aparezcan pruebas independientes y el hardware llegue al mercado, todo esto no pasa de ser una serie de afirmaciones contundentes de la propia Majestic Labs.

Los clientes empresariales que decidan abandonar las soluciones habituales con GPU tendrán que esperar a una evaluación independiente para saber si todo esto no suena demasiado bien para ser verdad.