Память для титанов

Micron представила новый модуль памяти SOCAMM2 объёмом 256 ГБ, созданный для крупных центров обработки данных и серверов, работающих с искусственным интеллектом. В основе модуля — 64 чипа LPDDR5X по 32 ГБ каждый. Такая компоновка позволяет добиться высокой плотности памяти и пропускной способности, которые требуются современным системам обучения нейросетей.

Новый формат SOCAMM2 разработан специально для серверов, где критичны энергопотребление, скорость и компактность. LPDDR5X, обычно используемая в смартфонах, здесь применяется для достижения высокой энергоэффективности при сохранении высокой скорости доступа. В серверах, которые обрабатывают запросы ИИ, такие характеристики позволяют не только ускорить работу моделей, но и уменьшить тепловыделение — важный фактор для больших дата-центров.

Крупнейшие облачные провайдеры могут установить до восьми таких модулей в один сервер, что даёт суммарный объём памяти до 2 ТБ. Это необходимо для работы больших языковых моделей и сложных систем анализа. Такие конфигурации используются в корпоративных кластерах ИИ, где обучение и обработка данных требуют колоссальных ресурсов.

Обычные пользователи не смогут использовать такие модули в домашних компьютерах: SOCAMM2 не совместим с обычными слотами, а ориентирован исключительно на профессиональные серверы. Micron подчёркивает, что технология нацелена на индустрию, где стоимость оборудования исчисляется десятками тысяч долларов.

Выход нового модуля отражает общий тренд на увеличение объёмов оперативной памяти для ИИ. Компании создают всё более производительные решения, чтобы поддерживать рост нейросетей. Память SOCAMM2 объёмом 256 ГБ служит ещё одним шагом к ускорению и масштабированию систем машинного обучения.