- Команда форума
- #1
Tristan
XenBaza
Представленные на CES 2026 новые серверные платформы NVIDIA потребуют еще большие объемы флэш-памяти. Сейчас временный массив данных для построения контекста запросов хранится в HBM-памяти в так называемом KV-кеше. Новое решение Inference Memory Context Storage (ICMS) предполагает вынос KV-кеша на высокоскоростные SSD.
В одной стойке конфигурации NVL72 может устанавливаться около 16 ТБ NAND-памяти на каждый GPU, что суммарно составляет 1152 ТБ на систему. При прогнозируемых поставках до 100 000 систем Vera Rubin в 2027 году совокупный спрос со стороны одной лишь NVIDIA может достигнуть 115,2 млн ТБ памяти NAND, или около 9,3 % от ожидаемого мирового объема рынка.
