NVIDIA представила ускоритель H200 со 141 Гбайтом памяти HBM3e

NVIDIA не собирается никому отдавать корону лидерства в сфере искусственного интеллекта, выпустив ускоритель H200, предлагающий значительный прирост производительности по сравнению с уже давно доступным на рынке H100.

Он основывается на той же графической архитектуре Hopper и может предложить 141 Гбайт памяти HBM3e с пропускной способностью 4.8 Тбайта/с, что в 2.4 раза больше, чем может предложить ускоритель прошлого поколения A100. Также он будет использоваться в HGX H200, где восемь таких ускорителей работают как единая система, предлагая 1.1 Тбайта памяти и 32 PFlops производительности в случае выполнения операций FP8.

Относительно H100 ускоритель может предложить значительно большую пропускную способность памяти, на 60% и 90% большую скорость вывода при работе с GPT-3 и Llama2 и двукратное улучшение производительности высокопроизводительных симуляций. Что касается доступности, ускоритель NVIDIA H200 появится у партнеров во втором квартале следующего года.