Intel представила ускорители глубокого обучения Habana Gaudi2 и Greco

Производители комплектующих понимают, что за глубоким обучением будущее, в связи с чем занимаются созданием новых ускорителей. Такой компанией является Intel, которая на мероприятии Vision представила новые ускорители глубокого обучения Habana Gaudi2 и Greco. В основе обоих ускорителей лежит 7-нм технологический процесс.

Intel Habana Gaudi2 предлагает 24 TPC для декодирования и обработки мультимедиа, в то время как первое поколение могло похвастаться лишь 8 TPC. Также ускоритель получил 96 Гбайт памяти HBM2e с пропускной способностью 2.45 Тбайта/с и 48 Мбайт SRAM. Значительное улучшение характеристик, особенно количества TPC, потребовало увеличения теплопакета до 600 Вт, что на 250 Вт больше ускорителя первого поколения.

С другой стороны, увеличение теплопакета позволило увеличить производительность. На графиках, представленных компанией, Intel сравнивает Habana Gaudi2 с NVIDIA V100, A100 40GB и 80GB. В зависимости от вида тестирования, производительность новинки оказывается до 7.7 раз больше V100 и до 2.8 раз больше A100 80GB.

Intel Habana Greco может похвастаться наличием 16 Гбайт памяти LPDDR5 с пропускной способностью 240 Гбайт/с и 128 Мбайтами SRAM. По сравнению с предшественником, у него появилась возможность работать с форматами BF16, FP16 и INT4, а также кодировать и декодировать мультимедиа. Стоит отметить, что его теплопакет всего 75 Вт, то есть он не требует подключения дополнительного питания. Его более подробными характеристиками и тестами производительности компания не делится.

Сообщается, что ускоритель Intel Habana Gaudi2 уже доступен для клиентов, в то время как Habana Greco ожидается во второй половине этого года.