Компания d-Matrix Разработала архитектуру трёхмерной памяти 3DIMC, которая, согласно заявлениям разработчика, способна кардинально изменить подход к выполнению задач искусственного интеллекта.
Процесс работы уже обученной нейросети, составляет львиную долю нагрузки на серверы крупных компаний. Именно здесь, по мнению инженеров d-Matrix, скрывается главная проблема современного аппаратного обеспечения, ведь память HBM, бесспорный лидер для обучения моделей, оказывается не столь идеальна для их повседневного применения, потребляя много энергии и создавая узкие места по пропускной способности.
Новый подход компании заключается в принципиально иной компоновке чипов. Технология, получившая название Digital In-Memory Compute (DIMC), предполагает вертикальную сборку (3D-стэкирование). На кристаллы памяти LPDDR5 помещаются специальные вычислительные чиплеты, которые соединены через интерпозер, что позволяет выполнять вычисления прямо внутри массива памяти, значительно сокращая задержки и энергозатраты на перемещение данных.
Первый тестовый чип Pavehawk уже функционирует в лабораториях компании. однако в d-Matrix смотрят ещё дальше и анонсировали следующее поколение архитектуры под кодовым именем Raptor. Именно оно, как заверяет стартап, сможет продемонстрировать заявленные цифры: десятикратное превосходство в скорости инференса при одновременном снижении энергопотребления на 90% по сравнению с классической HBM-памятью.
С экономической точки зрения появление альтернативы HBM также может быть своевременным, так как рынок сегодня контролируется всего тремя гигантами: SK hynix, Samsung и Micron, что закономерно влияет на высокую стоимость продуктов. В случае успешного внедрения и массового перехода AI-индустрии на специализированную память, подобную 3DIMC от d-Matrix, высокопроизводительная память HBM действительно с большей вероятностью может найти дорогу к рядовым пользователям и в игровой сегмент.
Основная причина — смещение спроса. Если крупнейшие потребители переориентируются на новые, более эффективные для инференса решения, производители HBM (Samsung, SK hynix, Micron) столкнутся с необходимостью искать новые рынки сбыта для своих мощностей. Это может привести к увеличению предложения и, как следствие, к снижению цен на HBM. В итоге то, что сегодня является эксклюзивным и дорогим компонентом для топовых AI-ускорителей и профессиональных видеокарт, может стать более доступным для высокопроизводительных игровых видеокарт.