NVIDIA різко збільшить витрати на пам’ять у нових AI-стійках Vera Rubin

NVIDIA офіційно підтвердила, що платформа Vera Rubin використовуватиме GPU Rubin із 288 ГБ HBM4 та пропускною здатністю до 22 ТБ/с на один прискорювач. Процесори Vera, своєю чергою, оснащуватимуться пам’яттю LPDDR5X через модулі SOCAMM2. У конфігурації Vera Rubin NVL72 36 процесорів отримують по 1,5 ТБ такої пам’яті. Таким чином, загальний обсяг LPDDR5X досягає 54 ТБ, тоді як обсяг HBM4 становить 20,7 ТБ.

SOCAMM2 відрізняється від традиційної серверної пам’яті RDIMM компактним підключенням безпосередньо до системної плати. Такий підхід дає змогу скоротити довжину електричних з’єднань і забезпечити необхідні характеристики сигналу для високошвидкісної LPDDR5X. Для NVIDIA це особливо важливо в системах, де обчислювальні прискорювачі та процесори мають обмінюватися величезними обсягами даних.

Пам’ять стає окремою статтею витрат на сотні мільйонів гривень

За оцінкою Bank of America, наведеною в аналітичних матеріалах щодо платформи Rubin, вартість HBM4E може становити близько $19,76 за гігабайт, тобто приблизно 938 грн за офіційним курсом НБУ. Йдеться не про ціну готового модуля для кінцевого покупця, а про оцінку вартості пам’яті у складі серверної інфраструктури.

У масштабніших конфігураціях Rubin Ultra аналітики очікують ще більш вражаючих обсягів пам’яті. В одній з оцінок для системи зі 144 GPU фігурують 124,4 ТБ HBM4E та 216 ТБ LPDDR5X. За заявленої оцінки вартості LPDDR5X на рівні близько $2,8 млн це приблизно 133 млн грн, тоді як 124,4 ТБ HBM4E оцінюються приблизно у $2,5 млн, або 119 млн грн.

Таким чином, лише два основні типи пам’яті можуть сформувати рахунок приблизно на 252 млн грн для однієї системи. Загальна вартість такої конфігурації, за наведеною аналітичною оцінкою, може сягати близько 1,98 млрд грн.

Водночас ці цифри слід сприймати саме як прогнози галузевих аналітиків, а не як офіційний прайс-лист NVIDIA. Компанія розкриває архітектуру та конфігурації Vera Rubin, але не публікує детальної собівартості окремих компонентів.

Чому пам’ять займає таку велику частку вартості

Пов’язаний аналіз UBS оцінює вартість одного GPU Rubin у складі суперчипа приблизно у $9247, тобто близько 439 тис. грн. У цю суму входять HBM, корпусування, інтерпозер та периферійні компоненти. Процесор Vera оцінюється приблизно у $20 059, або близько 953 тис. грн, з урахуванням пам’яті SOCAMM2 LPDDR5X.

Для порівняння, після вилучення вартості пам’яті та низки пов’язаних компонентів сам обчислювальний блок Vera оцінюється лише приблизно у $704, або 33 тис. грн. Це наочно демонструє, наскільки сучасна AI-інфраструктура залежить від дорогої DRAM-пам’яті.

Аналітики галузі пояснюють ситуацію не лише збільшенням обсягів пам’яті. Для AI-систем одночасно важливі місткість, пропускна здатність, енергоспоживання та затримки. Тому просте збільшення доступного обсягу DRAM не розв’язує проблему: виробникам доводиться використовувати дорогі типи пам’яті та складні технології їхньої інтеграції.

На цьому тлі особливо показовим є порівняння різних поколінь:

• Blackwell GB200 використовував до 192 ГБ HBM3E на один GPU, а GB300 — до 288 ГБ HBM3E;
• Vera Rubin переходить на 288 ГБ HBM4 на один GPU Rubin і водночас значно збільшує обсяг пам’яті на боці CPU;
• офіційна конфігурація Vera Rubin NVL72 об’єднує 20,7 ТБ HBM4 та 54 ТБ LPDDR5X, формуючи загальний пул пам’яті обсягом приблизно 74,7 ТБ.

Масштабніші конфігурації Rubin Ultra мають піти ще далі. Саме для них аналітики прогнозують сотні терабайтів сумарної пам’яті в одному обчислювальному комплексі. NVIDIA вже підтвердила, що Kyber стане наступним поколінням стійок MGX і зможе об’єднувати 144 GPU в одній системі NVL144.

Чому це важливо для ринку пам’яті

Експерти з AI-інфраструктури дедалі частіше розглядають пам’ять як один із головних факторів, що обмежують масштабування обчислювальних систем. Дослідження ринку показують, що вартість пам’яті в нових AI-стійках зростає значно швидше, ніж у попередніх поколіннях. За однією з оцінок, для Vera Rubin NVL72 витрати на пам’ять збільшилися більш ніж учетверо порівняно з попередньою платформою, а її частка в загальній собівартості наблизилася до чверті.

Водночас галузеві аналітики попереджають про можливий дефіцит LPDDR та інших типів пам’яті для AI-серверів. Раніше TrendForce повідомляла, що NVIDIA може зіткнутися з обмеженими поставками LPDRAM і розглядати можливість зменшення місткості модулів SOCAMM зі 192 до 96 ГБ, щоб знизити вартість і послабити навантаження на ланцюжок постачання.

Для українських компаній і дата-центрів ця тенденція насамперед проявлятиметься у вартості серверного обладнання та хмарних обчислень. Навіть якщо Vera Rubin не стане масовою платформою для українського бізнесу, зростання попиту найбільших виробників AI-прискорювачів на HBM і LPDDR може підтримувати високі ціни на пам’ять у всьому сегменті серверних компонентів.

У новій AI-архітектурі NVIDIA обчислювальну потужність GPU вже не можна розглядати окремо від пам’яті. Що масштабнішими стають моделі штучного інтелекту, то більшу частину вартості системи доводиться платити за можливість швидко зберігати та передавати дані. І Vera Rubin, судячи з доступних офіційних характеристик та галузевих оцінок, стане одним із найпоказовіших прикладів цієї тенденції.