NVIDIA показала “правильное” сравнение H100 с AMD Instinct MI300X

Во время официального представления ускорителя высокопроизводительных вычислений Instinct MI300X, AMD предпочла немного слукавить и сравнила свое новое решение с ускорителем конкурента NVIDIA H100, утверждая, что её новинка оказывается примерно на 30% лучше, однако на самом деле дела обстоят совсем другим образом.

NVIDIA обратила внимание на неправду и провела собственное тестирование, в котором использовала “правильные” настройки, подразумевающие включение оптимизированного программного обеспечения TensorRT-LLM, которое конкурент, по каким-либо причинам, не использовал в своих тестах, а также тестировала не базовую версию ускорителя, а последнюю, оснащенную 80 Гбайтами памяти HBM3.

Сравнение систем с 8 ускорителями в равных условиях, когда H100 и MI300X предлагают наивысшую производительность, показало, что DGX H100 способна обработать один вывод за 1.7 секунды, при этом конкурентное решение проделывает ту же работу за 2.5 секунды. Увеличение количества выводов путем объединения их в единые пакеты позволяет еще сильнее опередить систему с 8 ускорителями AMD, не оставляя ей никаких шансов.

Таким образом, NVIDIA показала, что её ускоритель H100 является лучшим решением для работы с искусственным интеллектом, а AMD обманула общественность, выдав неправильное тестирование за высокую производительность её ускорителя Instinct MI300X.