NVIDIA анонсировала ускоритель GH200 Grace Hopper SuperChip с памятью HBM3e

Несмотря на то, что память HBM3e еще не производится массово, NVIDIA уже показала свой первый ускоритель высокопроизводительных вычислений, основанный на новом типе памяти – им стал гибридный GH200 Grace Hopper SuperChip, сочетающий в себе как центральные ядра CPU, так и графические ядра GPU.

Использование HBM3e позволило увеличить количество установленной на одном ускорителе памяти до 141 Гбайта, набранной при помощи шести стеков по 24 Гбайта (3 Гбайта выключены для повышения уровня выхода годной продукции), в то время как пропускная способность достигла 5 Тбайт/с. Более того, компания подтвердила возможность объединения двух ускорителей в одну систему, увеличивая общее количество памяти до 282 Гбайт и пропускную способность до 10 Тбайт/с.

Внутренние тесты NVIDIA показали возможность запуска моделей искусственного интеллекта в 3.5 раза больше, чем могла прошлая версия ускорителя, при этом производительность стала еще выше за счет как увеличения объема, так и пропускной способности подсистемы памяти, что играет очень важную роль в случае работы с искусственным интеллектом.

Ускоритель NVIDIA GH200 Grace Hopper SuperChip с памятью HBM3e будет доступен во втором квартале следующего года. Если спрос на обучение искусственного интеллекта не уменьшится, то выручка компании серьезно взлетит.