NEO Semiconductor анонсировала память NEO 3D X-AI для замены HBM в ускорителях ИИ
Современные ускорители высокопроизводительных вычислений, в том числе для работы с искусственным интеллектом, полагаются на дорогостоящие стеки памяти HBM, но в будущем это может измениться, ведь компания NEO Semiconductor анонсировала новую память собственной разработки NEO 3D X-AI, предназначенной для замены HBM при работе с ИИ.
Согласно опубликованному материалу, в основе новой памяти лежит искусственный интеллект, способный сократить объем передаваемых данных между графическим процессором и памятью, что приведет к существенному снижению энергопотребления, а также заметному росту производительности, так как шина памяти перестанет быть узким местом.
Память NEO 3D X-AI сможет предложить 100-кратное повышение производительности за счет использования 8000 нейронных цепей для выполнения запросов искусственного интеллекта, 99% снижение энергопотребления за счет сокращения количества передаваемых данных между GPU и RAM, и в 8 раз повысить плотность памяти за счет наличия 300 слоев памяти объемом 128 Гбайт.
NEO Semiconductor утверждает, что один стек её памяти способен обеспечить пропускную способность памяти на уровне 10 Тбайт/с, в то время как ускоритель с 12 такими стеками предложит пропускную способность до 120 Тбайт/с.