Наборы данных для обучения ИИ продолжают расти, требуя ускорителей, поддерживающих терабайтную пропускную способность. HBM3E обеспечивает высокую пропускную способность памяти и энергоэффективные решения и стал первым выбором для оборудования для обучения искусственного интеллекта.

Оглавление：

• Что такое память HBM3E?
• Что такое 2.5D/3D архитектура?
• Чем HBM3E отличается от HBM2E, HBM2 или HBM (1-го поколения)?
• HBM3E Еще варианты

Что такое память HBM3E?

HBM3 В 2022 Год 1 Это последнее поколение памяти с высокой пропускной способностью, выпущенное в марте. （High Bandwidth Память, HBM), представляет собой высокопроизводительный 2.5D/3D Память Архитектура.и Все предыдущие версии одинаковы, HBM3 Используйте широкий путь данных (1024 Кусочек). НБМ3 к 6.4 Gb/s работает на скоростях, доступно 819 Gb /s полоса пропускания, HBM3E поставлять 9.6 Gb/s из Расширятьданныеставка（extended）и то же самоеизнабор функций。В силу своего отличногоизпропускная способность、Высокая емкость и компактностьиззанимаемое пространство,у него естьстановиться AI Предпочтительное решение в памяти для рабочих нагрузок.

Что такое 2.5D/3D архитектура?

Словарь «3D» легко увидеть. Память HBM представляет собой трехмерную сложенную DRAM. «2.5D» относится к способу подключения хранилища HBM к чипу процессора (будь то графический процессор или ускоритель искусственного интеллекта). Путь данных между каждым устройством памяти HBM и процессором требует 1024 «проводов». По мере добавления команд, адресов, часов и т. д. количество необходимых трассировок увеличивается примерно до 1700.

Более тысячи дорожек — это намного больше, чем может поддерживать стандартная печатная плата. поэтому,Кремниевые промежуточные устройства используются в качестве промежуточных устройств хранения данных и процессора HBM. То же, что и интегральная схема,Следы могут быть выгравированы на кремниевом переходнике.,тем самым достигая HBM Необходимое количество проводов, необходимое для интерфейса. ХБМ Процессор установлен в верхней части промежуточного уровня, называемый 2.5D архитектура.

HBM3E использует архитектуру 2.5D/3D.

Чем HBM3E отличается от HBM2E, HBM2 или HBM (1-го поколения)?

HBM3 представляет собой третье поколение стандарта HBM. С каждым поколением продуктов мы наблюдаем тенденцию к увеличению скорости передачи данных, высоты 3D-стека и плотности чипов DRAM. Это означает более высокую пропускную способность и большую емкость устройства при каждом обновлении спецификации.

HBM к 1 Gb/s вводятся скорости передачи данных до 16 Gb из 8-high 3D куча. С помощью HBM3, масштабируемая скорость передачи данных 6.4 Гбит/с, а устройство может поддерживать 32 Gb из16-high 3Dкуча。основнойиз DRAM Производитель представил. HBM3E устройств, увеличивая скорость передачи данных до 9.6 Gb/s。

более высокая плотностьиз HBM Параллелизм устройств, архитекторы чипов настаивают на этом AI ускоритель и GPU Разработан с более высокой скоростью соединения. иметь 6 индивидуальный HBM3 Конструкция устройства, скорость работы 6.4 Gb/s,Можетпоставлять 4.9 TB/s из Память пропускной способности.

Больше изменений для HBM3E/3

Но это еще не все. НБМ3 Также представлены мощность, доступ к памяти, а также надежность, доступность и удобство обслуживания. （RAS）из Расширенная функциональность。

• Источник питания: HBM3E/3 Измените напряжение ядра с HBM2E из 1.2V уменьшено до 1.1V,HBM3 Воля IO сигнал от HBM2E Используется в из 1.2V уменьшено до 400м В. Более низкое напряжение означает меньшее энергопотребление. Эти изменения помогают компенсировать повышенное энергопотребление, связанное с переходом на более высокие скорости.
• ряд Архитектура：HBM3E/3 Воля 1024 Каналы с большой шириной делятся на 16 индивидуальный 64 битовый канал 32 индивидуальный 32 Битовый псевдоканал. Это делает HBM2E из 8 индивидуальный 128 битовый канал и 16 индивидуальный 64 Битовые псевдоканалы из Память удвоили количество каналов и улучшили производительность.
• Надежность, доступность, ремонтопригодность （RAS）：HBM3E/3 Введены дополнительные стороны хоста и устройства. ECC и поддерживает управление обновлениями （RFM） и адаптивное управление обновлениями （ARFM）。

Ядро контроллера памяти Rambus HBM3E/3

Ядро контроллера памяти Rambus HBM3E/3 оптимизирован для обеспечения высокой пропускной способности и низкой задержки, имеет компактный форм-фактор и энергоэффективный корпус для максимальной производительности и гибкости для обучения искусственному интеллекту.

Пример контроллера памяти HBM3E

Ядро контроллера памяти Rambus HBM3E/3 Воляданные скорости увеличиваются до лучших на рынке для каждого индивидуального PIN-кода 9.6 Гбит/с (значительно выше) 6.4 Gb/s 。 Стандартная скорость). Интерфейс имеет 16 индивидуальные независимые каналы, каждый индивидуальный канал содержит 64 бит, общая ширина данных равна 1024 Кусочек. При максимальной скорости передачи данных это из расчета на индивидуальносоединятьиз. HBM3E/3 Устройство хранения в наличии 1,229 GB/s или 1.23 TB/s из Пропускная способность

Подвести итог

HBM Компактный размер, большая емкость обеспечивает непревзойденную пропускную способность, что делает HBM становиться AI/ML и другие высокопроизводительные вычислительные нагрузки из предпочтительных Память. НБМ3 В соответствии со стандартом последнего поколения, ставка Воляданные увеличивается до 6.4 Гбит/с и, как ожидается, будет расширяться дальше. Рамбус HBM3E/3 Ядро контроллера HBM3 Дорожная карта расширений обеспечивает ведущую в отрасли поддержку с производительностью до 9.6 Гб/с. С помощью этого решения дизайнеры могут создавать проекты на любой вкус. HBM3E/3 Устройства хранения данных достигают 1.23 TB/s из Пропускная способность。

Reference：HBM3E: Everything You Need to Know - Rambus