SK hynix показала память для ИИ за пределами HBM

Южнокорейская SK hynix представила на OCP Global Summit 2026 в Калифорнии технологии памяти для ИИ, дополняющие высокоскоростную HBM. О демонстрации компания сообщила 16 октября, передаёт Yonhap. Среди показанных решений — память, которую могут совместно использовать несколько серверов, и архитектура, объединяющая вычислительные ресурсы и память в масштабе стойки.


Один из представленных продуктов — CMM-DDR5 второго поколения ёмкостью 256 ГБ на основе интерфейса CXL 3.2. По данным SK hynix, его пропускная способность более чем вдвое выше, а энергоэффективность примерно на 30% лучше, чем у предыдущего поколения. Поддержка общего пула памяти позволяет нескольким серверам брать из него столько ресурсов, сколько им требуется.

Этот же принцип компания использует в MARS — серверной архитектуре, в которой память занимает центральное место. Через CXL система связывает процессоры и графические ускорители. На стенде SK hynix вместе с партнёрами демонстрировала, как общий пул помогает передавать и повторно использовать KV-кеш — уже вычисленные данные, которые языковая модель сохраняет при обработке текста. По утверждению компании, такой обмен ускоряет работу по сравнению с передачей через сеть.

В другой демонстрации MARS использовала сочетание оперативной памяти DRAM и SSD. Весь KV-кеш хранился на накопителе, а данные, которые могли понадобиться для следующих действий, заранее загружались в DRAM. Так компания показала способ совместить большую ёмкость хранения с быстрым доступом к нужным данным.

Ещё одно направление — HBF, флеш-память с высокой пропускной способностью. Она основана на NAND и, как HBM, использует вертикальные соединения между кристаллами. На выставке SK hynix представила модель её структуры и графики на основе внутренних симуляций. Компания отводит HBF роль ёмкой памяти для ИИ-сервисов с большим числом пользователей, а HBM — задач, где особенно важен быстрый отклик.

Отдельно SK hynix продемонстрировала CMM-Ax — решение, совмещающее память и вычисления. Оно предназначено для выполнения части операций непосредственно в памяти, без перемещения данных. На саммите компания показала его применение при работе языковых моделей с длинным контекстом — большим объёмом информации, который модель учитывает при подготовке ответа.