Компания XCENA представила вычислительную память MX1 на базе CXL 3.2, а SK hynix показала построенную на этом чипе гибридную память CXL. В демонстрации несколько серверов инференса обращались к общему кэшу KV — хранилищу уже обработанного контекста языковой модели. Устройство MX1 поддерживает до 2 ТБ DRAM и интерфейс PCIe 6.0. Кроме расширения памяти, контроллер включает вычислительные блоки для обработки данных непосредственно рядом с памятью. В одном из показанных сценариев выполнялся векторный поиск для RAG — технологии, которая дополняет ответы языковой модели информацией из внешней базы данных. Гибридная архитектура SK hynix сочетает DRAM с дополнительной ёмкостью SSD, что позволяет хранить больше данных, чем помещается в обычной памяти, сохраняя более быстрый доступ к востребованной части контекста по сравнению с обращением непосредственно к SSD. При этом компании пока не опубликовали подробные показатели задержек и пропускной способности демонстрационной системы.
Что именно показали XCENA и SK hynix
Демонстрация строится вокруг двух компонентов. Первый — вычислительная память MX1 от XCENA на базе спецификации CXL 3.2. Это устройство поддерживает до 2 ТБ DRAM и подключается по PCIe 6.0. Помимо расширения памяти, контроллер MX1 содержит вычислительные блоки, позволяющие обрабатывать данные прямо рядом с памятью, не передавая их в CPU. В одном из сценариев на этом чипе выполнялся векторный поиск для RAG.
Второй компонент — гибридная память CXL от SK hynix, построенная на MX1. Она сочетает DRAM с дополнительной ёмкостью SSD: востребованная часть контекста остаётся в быстрой памяти, а менее горячие данные хранятся на SSD. Это позволяет держать больше данных, чем помещается в обычной DRAM, сохраняя более быстрый доступ к горячей части по сравнению с прямым обращением к SSD.
В демонстрации несколько серверов инференса обращались к общему кэшу KV — хранилищу уже обработанного контекста языковой модели. Вместо того чтобы каждая система держала собственную копию, они использовали общий ресурс через CXL. Это и есть ключевая идея: память становится разделяемым сетевым ресурсом, а не только локальным компонентом конкретного сервера.
Что такое KV-кэш и зачем его делить
При работе языковой модели каждая реплика хранит KV-кэш — промежуточные представления уже обработанного контекста. Чем длиннее контекст и чем больше одновременных запросов, тем больше памяти требуется. Если несколько серверов обслуживают одни и те же или похожие диалоги, они часто дублируют одни и те же данные.
Общий KV-кэш через CXL позволяет не создавать отдельные копии для каждого сервера. Это особенно важно для ИИ-агентов и RAG-сценариев, где множество запросов опираются на общую базу знаний. Вместо дублирования контекста по узлам система обращается к общему пулу, а вычислительные блоки MX1 могут выполнять часть операций поиска рядом с данными.
Характеристики демонстрации
| Параметр | Значение |
|---|---|
| Устройство | XCENA MX1 — вычислительная память на CXL 3.2 |
| Интерфейс | PCIe 6.0 |
| Ёмкость DRAM | до 2 ТБ на устройство |
| Вычисления | блоки обработки данных рядом с памятью (in-memory compute) |
| Показанный сценарий | векторный поиск для RAG |
| Гибридная память | SK hynix: DRAM + дополнительная ёмкость SSD |
| Общий ресурс | KV-кэш для нескольких серверов инференса |
| Задержки и пропускная способность | подробные показатели не опубликованы |
| Статус | демонстрация архитектуры, не серийный продукт |
Что это меняет
- Несколько серверов потенциально могут использовать общие данные, не создавая отдельные копии KV-кэша. Это снижает дублирование памяти и упрощает масштабирование инференса.
- Часть операций поиска можно переносить ближе к месту хранения данных, сокращая их передачу в CPU. Вычислительные блоки MX1 обрабатывают данные рядом с памятью, а не гоняют их по шине.
- Возникает более гибкая иерархия памяти: HBM для интенсивных вычислений, DRAM/CXL для расширяемой памяти и SSD для большой ёмкости. Каждый уровень отвечает за свою часть работы.
Ограничения и риски
- Это демонстрация, а не серийный продукт. Речь идёт о проверке архитектуры, а не о гарантированном ускорении любой серверной системы.
- Задержки и пропускная способность не раскрыты. Без этих цифр нельзя оценить, насколько общий CXL-пул быстрее прямого обращения к SSD в реальных сценариях.
- CXL-пул требует поддержки платформы и ПО. Нужны совместимые процессоры, чипсеты, гипервизоры и приложения; не все серверные платформы готовы к разделяемой памяти.
- Задержки удалённого доступа. Обращение к памяти через CXL может быть медленнее локальной DRAM, что критично для latency-чувствительных задач.
- Экосистема формируется. CXL 3.2 и PCIe 6.0 — новые стандарты; их поддержка в массовых продуктах появится не сразу.
Что это значит для покупателей в России
Официальных поставок SK hynix и XCENA в Россию нет, а продукция доступна через параллельный импорт. Однако MX1 и гибридная память на его основе — это демонстрации, а не готовые продукты, поэтому в ближайшее время в российских ЦОД они не появятся. Для текущих задач имеет смысл опираться на доступные серверы и память, которые есть на складе.
Практический вывод: общий KV-кэш через CXL — перспективное направление для больших ИИ-кластеров, но пока речь идёт о демонстрациях и проверке архитектуры. При проектировании стоит учитывать не только количество DDR5-модулей в каждом узле, но и возможность объединения памяти, поддержку CXL со стороны платформы и программного обеспечения. Для типовых задач — 1С, виртуализации, СУБД и небольшого инференса — по-прежнему достаточно серверов с локальной DDR5.
- HPE ProLiant DL380 Gen12 8SFF (P89316-425-001-000) — шасси 2U под Xeon 6 и DDR5: основа для сборки под конкретную задачу.
- HPE ProLiant DL360 Gen12 8SFF MR408i-o (P89233-425-001-000) — то же поколение в 1U для плотной установки.
- HPE ProLiant DL380 Gen11 Xeon Silver 4410Y, 32 ГБ DDR5, 12 LFF (P52562-B21) — готовая конфигурация для 1С и виртуализации.
- SSD HPE 7,68 ТБ NVMe Read Intensive (P40567-B21) — для баз данных и наборов данных под ИИ.
Соберём сервер под 1С, виртуализацию или инференс, подберём память DDR5, диски и сетевые карты. Для юридических лиц подготовим коммерческое предложение и счёт.
Запросить КП на zakaz@comparema.ru