Huawei представила SSD-накопители для ИИ, которые должны уменьшить зависимость от дефицитной HBM-памяти

Huawei представила новые SSD-накопители для искусственного интеллекта (ИИ), чтобы снизить зависимость от высокоскоростной памяти HBM (High Bandwidth Memory), поставки которой в Китае ограничены санкциями. На презентации Data Storage AI SSD были показаны три модели: OceanDisk EX, OceanDisk SP и OceanDisk LC 560.

Компания Huawei объясняет, что эти новинки созданы в ответ на проблему «стены памяти» и «стены объёма». Эти ограничения мешают полноценно работать современным ИИ-системам: недостаток быстрой памяти тормозит обработку данных и обучение, а высокие цены на оборудование делают проекты невыгодными.

Вице-президент Huawei Чжоу Юэфэн подчеркнул, что нехватка памяти стала главным «узким горлышком» для ИИ и бизнеса вокруг него. Это повышает стоимость инфраструктуры и мешает развитию технологий.

Флагманская модель OceanDisk EX 560 — «SSD для экстремальной производительности» с заявленной скоростью записи до 1,5 млн IOPS (операций ввода-вывода в секунду), задержкой менее 7 микросекунд и выносливостью 60 полных перезаписей накопителя в день. Huawei утверждает: благодаря этому на одной машине можно тренировать модели ИИ с числом параметров, увеличенным в шесть раз. То есть эта SSD особенно полезна для дообучения больших языковых моделей (LLM, Large Language Models).

OceanDisk SP 560 — вариант подешевле: 600 тысяч IOPS, выносливость всего 1 перезапись в день. Такие накопители, по мнению компании, подходят для работы с моделями ИИ в режиме инференса — то есть, когда нейросеть уже обучена и отвечает на запросы пользователей. Здесь обещают сократить задержку ответа на первый запрос в 4 раза и удвоить скорость обработки данных.

Модель LC 560 — самая ёмкая в серии: на один диск помещается 245 ТБ, скорость чтения до 14,7 ГБ/с. Этот SSD, считают в Huawei, пригодится для работы с огромными мультимодальными наборами данных, когда одна задача использует разные форматы информации (например, картинка + текст).

Помимо железа Huawei анонсировала программный драйвер DiskBooster: он может увеличить общую доступную оперативную память для ИИ-задач в 20 раз за счёт синхронизации SSD, HBM и обычной DDR-памяти. В компании особо отметили технологию multi-stream, которая снижает эффект write amplification — это продлевает срок службы SSD-накопителей за счёт оптимизации работы с данными.

Всё это — попытка Huawei обойти запреты США на поставки чипов HBM: компания делает ставку на китайскую NAND Flash (основу SSD) и специальное ПО. Однако SSD пока не способны полностью заменить HBM для обучения больших нейросетей. Так что речь лишь о частичном «замещении», а не полной замене: Huawei надеется, что такие решения помогут хотя бы частично восполнить недостаток дорогой памяти.