Специалисты в области ИИ рассматривают возможность перехода на AMD Instinct MI300X

Джефф Татарчук (Jeff Tatarchuk), один из работников TensorWave, провел опрос среди 82 специалистов в области искусственного интеллекта и пришел к выводу, что половина из них рассматривает возможность перехода на ускоритель AMD Instinct MI300X, перечисляя три конкретные причины.

Переход на лучшее решение AMD связано с тем, что его гораздо легче найти в продаже и гораздо быстрее получить на руки, он дешевле ускорителей той же NVIDIA, а также предлагает лучшую производительность в некоторых сценариях. Другими словами, Instinct MI300X предлагает значительно лучшее соотношение производительности на стоимость и продается без проблем с ожиданием, чего нельзя сказать про тот же NVIDIA H100, который очень дорогой и требует 3-4 месяца ожидания.

Напомним, что ускоритель AMD Instinct MI300X содержит 304 вычислительных блока или 19456 потоковых процессоров, работающих с тактовой частотой до 2100 MHz, а подсистема памяти насчитывает 192 Гбайта памяти HBM3 с пропускной способностью почти 5.2 Тбайта/с. Все это добро способно потреблять 750 Вт и предлагает до 60% большую производительность по сравнению с NVIDIA H100, но тут все зависит от конкретной задачи.