Intel сделала видеокарту на 480 ГБ — но не для игр

На саммите Open Compute Project Global Summit Intel представила графический ускоритель D-series с объёмом памяти до 480 ГБ. Он рассчитан на ИИ-инференс — выполнение запросов уже обученной моделью, — а не на игры. Устройство ранее было известно под кодовым названием Crescent Island и оснащено специализированными вычислительными блоками.

По объёму памяти новинка опередила ускоритель Nvidia Blackwell Ultra B300, у которого 288 ГБ памяти HBM3e. При этом Intel выбрала не GDDR7, применяемую в современных видеокартах, а LPDDR5X — тип памяти, широко используемый в ноутбуках и других устройствах, где важна экономия энергии. Такая конфигурация показывает, что компания делает ставку на вместимость и энергоэффективность при обработке ИИ-запросов, а не на создание обычной игровой видеокарты.

По заявлению Intel, один ускоритель D-series сможет обслуживать большие языковые модели размером до 300 млрд параметров. Восемь GPU в одной системе, как утверждает компания, позволят работать с моделями, в которых более 1 трлн параметров. Предполагаемые сценарии — обработка длинных запросов, одновременное обслуживание множества обращений, корпоративные ИИ-сервисы и робототехника, где важна быстрая реакция.

Большой объём памяти нужен, чтобы во время инференса держать доступными значительную часть параметров модели и связанные с ними данные. Однако одни лишь 480 ГБ не говорят о том, насколько быстро ускоритель будет отвечать на запросы: важны также пропускная способность памяти, вычислительные ресурсы, программное обеспечение и особенности конкретной задачи.

Intel указывает производительность 1,3 петафлопса в формате FP8. Это числовой формат, который применяют для ускорения ИИ-вычислений и снижения требований к памяти по сравнению с форматами более высокой точности. Пропускная способность памяти составляет 1,5 ТБ/с — этот показатель описывает скорость обмена данными между памятью и процессором. Заявленный лимит энергопотребления — 350 Вт.

Ускоритель выполнен в стандартном формате PCIe, использует воздушное охлаждение и, по данным Intel, совместим с программной экосистемой её GPU. Компания рассчитывает, что это упростит установку в существующих дата-центрах без специального охлаждения и полной перестройки серверных стоек.

Intel также планирует связать D-series с процессорами Xeon. Центральный процессор сможет координировать задачи, управлять передачей данных и выполнять работу, для которой не требуется GPU. Такой подход рассчитан на ИИ-системы, где запрос проходит несколько этапов: поиск информации, рассуждение модели, координацию действий, обращение к внешним инструментам и выполнение задачи.

Вице-президент Intel по продуктам ИИ и коммерческому развитию в подразделении Data Center Group Анил Нандури заявил, что инференс становится ключевой нагрузкой для ИИ, а предприятиям нужна инфраструктура с подходящими производительностью и стоимостью. Он отметил, что D-series призвана сделать инференс с большим объёмом памяти практичным для внедрения и масштабирования.

Вице-президент Intel по системам и решениям для дата-центров Николя Дюбе связал спрос на такую инфраструктуру с ростом числа открытых моделей. По его словам, компаниям нужны вычислительные ресурсы, которые можно подбирать под разные задачи и их экономические требования. Intel формулирует этот принцип как «поместить каждый запрос на своё место».

На момент публикации Intel не объявила ни розничную цену GPU D-series, ни точную дату его массового выхода на рынок.