Nvidia DGX Spark: мини-ПК для ИИ — революция или дорогая игрушка?

Первые обзоры Nvidia DGX Spark не заставили себя ждать — и дали понять: перед нами, возможно, нечто большее, чем просто мини-ПК. Новинка использует суперчип GB10 Grace Blackwell и сочетает CPU и GPU с 128 ГБ общей памяти, что позволяет запускать и загружать крупные языковые модели (LLM) прямо на рабочем столе, не завися от облаков и удалённых серверов.

Портал LMSYS назвал DGX Spark "восхитительным инженерным произведением", сочетающим компактность с исследовательским потенциалом. В ходе тестов оказалось, что маленький аппарат отлично справляется с малыми моделями (типа Llama 3.1 70B и Gemma 3 27B), обеспечивая стабильную работу и высокую эффективность потоковой загрузки. Для такого небольшого устройства запуск тяжёлых моделей — почти уникальное свойство.

Однако без ложки дегтя не обошлось: у Spark ограничена пропускная способность памяти LPDDR5X, из-за чего по сырой производительности он уступает полноценным дискретным системам с видеокартами. Зато плюсы — стабильность, почти полная тишина и эффективное охлаждение.

LMSYS подчёркивает: DGX Spark — не конкурент железным облакам, а инструмент для тех, кто хочет экспериментировать с ИИ прямо за своим столом.

Портал ServeTheHome им вторит: "GB10 — это так чертовски круто". По их мнению, компактное устройство демократизирует работу с большими ИИ-моделями: тишина, скромные размеры и прогулочная работа в кластерном режиме (через 200Гбит/с Ethernet) могут заинтересовать как разработчиков, так и топ-менеджеров, играющих с новыми рабочими ИИ-процессами.

Минусы указываются честно: сырые драйверы для дисплеев, ограниченная пропускная способность памяти. Всё равно обозреватели говорят — это "игра на повышение" для локальных экспериментов с ИИ.

HotHardware подчеркивает, что Spark — не замена обычному рабочему ПК разработчика, а скорее его компаньон. Подключение через Nvidia Sync — поразительно простое, Power consumption — вдвое ниже аналогичных ПК с видеокартой.

"DGX Spark — интересный шаг в развитии железа для ИИ. Если вы хотите оказаться у истока новой волны, это ваш шанс," — пишут в HotHardware.

The Register замечает: сила Spark — не в скорости, а в объединённой памяти. Ставка на ёмкость позволяет запускать задачи, для которых раньше требовалось несколько топовых GPU. Бонус — поддержка Nvidia CUDA, от чего решения Apple и AMD отстают из-за отличающегося подхода к ПО.

Принимая к сведению аппаратные и софтверные шероховатости, The Register предупреждает: "Вам нужен не просто тихий мини-ПК, а недорогая лаборатория для ИИ без желания запускать игры и верстать журналы? Побалуйте себя Spark. Нет? Подождите несколько месяцев — GB10 всё равно скоро приедет в сборках под Windows".