AMD отреагировала на “правильное” сравнение ускорителей MI300X и NVIDIA H100

Интересную ситуацию можно наблюдать в случае AMD и NVIDIA, которые решили выяснить, у кого премиальный ускоритель высокопроизводительных вычислений демонстрирует более высокий уровень производительности. Все началось с представления AMD Instinct MI300X, оказавшегося значительно лучше NVIDIA H100, однако конкурент не согласился с таким раскладом и опроверг заявление своего конкурента.

AMD не стала молчать и опубликовала еще одно тестирование, где вновь сравнила MI300X с H100, причем на этот раз оба ускорителя полагаются на лучшие условия для показа максимальной производительности. Таким образом, первое тестирование проводилось в случае vLLM и инструкций FP16, второе тестирование подразумевало использование тех же инструкций и оптимизированного программного обеспечения TensorRT-LLM в случае H100, а в третьем тестировании использовались лучшие условия для обоих ускорителей: TensorRT-LLM с FP8 для H100 и vLLM с FP16 для MI300X.

Результаты внутреннего тестирования AMD демонстрируют заметно большую производительность ускорителя Instinct MI300X по сравнению с NVIDIA H100 во всех проведенных сравнениях: в первом наблюдается 2.1-кратное превосходство, во втором случае оно снизилось до 1.3 раза, а в последнем компания сделала акцент именно на задержке, которая оказалась на 0.1 секунды меньше у MI300X. Учитывая, что AMD и NVIDIA предпочитают выставлять свои ускорители в лучшем свете, чтобы заполучить как можно больше партнеров для работы с искусственным интеллектом, ответ NVIDIA не должен заставить себя ждать.