NVIDIA и IBM работают над аналогом Microsoft DirectStorage для серверов

Microsoft официально объявила о том, что её технология DirectStorage, являющаяся API,  доступна для всех разработчиков игр, ориентированных на операционную систему Windows. Она позволяет видеокарте получать доступ к хранилищу компьютера без участия центрального процессора, что снижает нагрузку на него и повышает скорость загрузки/подгрузки игры и её объектов.

API DirectStorage, к сожалению, работает только с играми, в то время как в сферах, где требуется работа с большим объемом данных, аналогичная технология не предусмотрена. Речь идет об аналитике, искусственном интеллекте, машинном обучении и высокопроизводительных вычислениях. NVIDIA и IBM объединились и активно работают над методом Big Accelerator Memory (BaM), который позволяет получить видеокарте полный доступ к твердотельному накопителю не в играх, а в различных тяжелых нагрузках по типу того, что перечислены выше.

На данный момент лучшие решения AMD и NVIDIA для серверов и высокопроизводительных вычислений оснащаются памятью HBM, которая не только очень дорогая, но и требует использования сложных технологий упаковки. Также для общения между накопителем и памятью ускорителя используется центральный процессор, что не есть хорошо в плане производительности. Big Accelerator Memory решает проблемы дороговизны памяти ускорителей и повышает общую производительность за счет обхода центрального процессора, перемещая всю работу по декомпрессии на ускоритель.

«Целью Big Accelerator Memory является расширение емкости памяти графического процессора и повышение эффективной пропускной способности доступа к хранилищу, а также предоставление высокоуровневых абстракций для потоков графического процессора, позволяющих легко осуществлять мелкозернистый доступ по требованию к массивным структурам данных в расширенной иерархии памяти».

Ускорители хоть и будут использовать локальную память как кэш, у них появится возможность использовать хранилище системы при помощи PCI Express, RDMA и специального драйвера ядра Linux, позволяя ускорителю работать напрямую с хранилищем. NVIDIA и IBM планируют выпустить открытый исходный код Big Accelerator Memory, чтобы другие компании могли использовать метод в своих разработках.