Qualcomm разработала High Bandwidth Compute для замены дорогостоящей памяти HBM

Компании, так или иначе связанные с сегментом искусственного интеллекта или просто желающие получить с него прибыль, стараются найти решение по удешевлению стеков дорогостоящей памяти HBM, пользующихся огромным спросом со стороны производителей ускорителей. JEDEC, например, разработал целый стандарт, подразумевающий использование стандартной упаковки, с целью снижения стоимости.

Qualcomm, в свою очередь, предлагает обратить внимание на её разработку High Bandwidth Compute (HBC). Она представляет собой слои памяти LPDDR, славящиеся высокой скоростью, большим объёмом, низким энергопотреблением и низкой стоимостью, наложенные друг на друга, соединенные при помощи сквозных переходных отверстий (TSV) и имеющие в основании вычислительный кристалл, который выполняет вычисления рядом с памятью и частично разгружает центральный процессор.

Согласно внутренним тестам, HBC от Qualcomm увеличивает показатель пропускной способности на ватт в 6 раз по сравнению с HBM4, при этом сама пропускная способность на микросхему составляет приличные 133 терабайта в секунду в случае ускорителя AI250, что в 18 раз больше простой LPDDR5x, которую можно найти в решении AI200 этого же производителя. Новую технологию компания планирует внедрить в ускоритель AI250, ожидаемый в следующем году.