Samsung хочет встроить вычисления прямо в память: HBM готовят к большой перестройке

На конференции Hot Chips инженеры Samsung представили план развития памяти с высокой пропускной способностью, который выходит за рамки привычного наращивания объёмов и скорости. Речь идёт о пересмотре архитектуры HBM — базовый кристалл, который сейчас выполняет функции интерфейса, в перспективе должен взять на себя часть вычислений.

Стандартная компоновка HBM состоит из двух элементов, где верху располагаются несколько стеков Core Die с ячейками DRAM, снизу — Base Die, отвечающий за управление и связь с GPU или другим ускорителем. Проблема в том, что дальнейший рост пропускной способности упирается в физические ограничения: количество сквозных соединений TSV ограничено, а интерфейс ввода-вывода занимает слишком много места и потребляет заметную часть энергии.

В Samsung предлагают решить эту проблему поэтапно. Первый шаг уже частично реализован в HBM4, где компания перевела базовый кристалл на 4-нм техпроцесс, что позволило уменьшить площадь чипа и снизить энергопотребление. Дальше планируется выпуск Custom HBM, где часть логики ускорителя переносится непосредственно в базовый слой. В презентации упоминается контроллер памяти и схема восстановления ячеек на основе SRAM — это освобождает место на основном чипе и упрощает компоновку.

Второй этап предполагает расширение функций базового кристалла. Туда добавят телеметрию, улучшенные механизмы тестирования, контроллер расширения памяти для подключения внешних модулей LPDDR или HBM. Отдельно рассматривается перенос простых вычислительных элементов — это должно сократить объём данных, передаваемых между памятью и процессором. Третий этап наиболее радикальный, тут Samsung работает над архитектурой zHBM, где память размещается непосредственно над вычислительным кристаллом. Для этого потребуются технологии Wafer-on-Wafer и гибридное соединение, а от классического 2.5D-интерпозера можно будет отказаться. По оценкам компании, такой подход снижает энергопотребление DRAM примерно на 70% и увеличивает пропускную способность в 2,3 раза по сравнению с HBM4E.

Пока zHBM остаётся концептом, но первые шаги уже делаются. Вопрос в том, насколько быстро Samsung сможет довести гибридное соединение до массового производства и как отреагируют конкуренты, которые также работают над 3D-компоновкой памяти.

Что думаете — станет ли перенос вычислений в базовый слой HBM новым стандартом или индустрия продолжит разделять память и логику?