NVIDIA тратит 80% времени на программное обеспечение при развертывании систем DGX H100

На днях NVIDIA сообщила о первых поставках систем DGX H100 первым партнерам. В основе этих систем лежат ускорители высокопроизводительных вычислений H100, совокупная производительность которых достигает 4000 TFLOPS в случае работы с искусственным интеллектом. По сути, DGX H100 является самой производительной системой для машинного обучения, глубоких нейронных сетей, нагрузок HPC и искусственного интеллекта.

NVIDIA, помимо продажи своим партнерам высокопроизводительных систем, также помогает им программным обеспечением, правильная настройка которого позволяет выжать все соки для конкретной задачи. Как сообщает представитель компании в лице Манувира Даса (Manuvir Das), NVIDIA тратит 20% времени на аппаратное и 80% времени на программное развертывание продукта, то есть практически все время установки и настройки DGX H100 приходится на программную часть.

NVIDIA делает большую ставку на искусственный интеллект, который в последнее время сильно активизировался с появлением общедоступных больших языковых моделей, таких как ChatGPT. Это дает свои плоды, так как акции компании стремительно увеличиваются в цене, а прибыль стремительно идет вверх за счет продаж специализированных ускорителей, приносящих значительно большую прибыль, нежели игровые решения.