HBM4, C-HBM4 и SPHBM4: новая версия сокращает ширину интерфейса памяти

Уже со следующего года все новые ИИ-ускорители будут переходить на более быструю память HBM4. Она не только увеличит пропускную способность по сравнению с HBM3E, но и заметно повысит суммарную емкость ускорителей. Так, ускорители AMD Instinct MI400 получат до 432 ГБ памяти при пропускной способности 19,6 ТБ/с. NVIDIA выйдет на сопоставимые показатели с поколением Rubin, хотя компания пока не раскрывает точные характеристики.

Переход к HBM4 сопровождается и серьезными изменениями в архитектуре памяти. В стандартной конфигурации ширина интерфейса увеличивается с 1024 до 2048 бит. В результате один стек HBM4 достигает скорости до 11 Гбит/с, что почти на 40 % превышает требования JEDEC для этого стандарта. По всей видимости, AMD и NVIDIA оказали давление на производителей памяти , и те ускорили DRAM-стеки сначала до 10 Гбит/с, а затем и до 11 Гбит/с в финальных образцах.

Расширение интерфейса заметно усложняет интеграцию HBM4. Как правило, для этого ...