Память с высокой пропускной способностью - Википедия - High Bandwidth Memory

Прорежьте видеокарту, которая использует память с высокой пропускной способностью. Увидеть сквозные кремниевые переходные отверстия (ТСВ).
Память компьютера типы
Общий
Летучий
баран
Исторический
Энергонезависимая
ПЗУ
NVRAM
Ранняя стадия NVRAM
Магнитный
Оптический
В развитии
Исторический

Память с высокой пропускной способностью (HBM) высокоскоростной память компьютера интерфейс для 3D-стек SDRAM из Samsung, AMD и СК Хайникс. Он используется вместе с высокопроизводительными графическими ускорителями, сетевыми устройствами и некоторыми суперкомпьютерами. (Например, NEC SX-Aurora TSUBASA и Fujitsu A64FX )[1] Первый чип памяти HBM был произведен SK Hynix в 2013 году,[2] и первыми устройствами, использующими HBM, были AMD Фиджи Графические процессоры в 2015 году.[3][4]

Память с высокой пропускной способностью была принята JEDEC в качестве отраслевого стандарта в октябре 2013 года.[5] Второе поколение, HBM2, было принято JEDEC в январе 2016 года.[6]

Технологии

HBM обеспечивает более высокую пропускную способность при меньшем потреблении энергии и значительно меньшем форм-факторе, чем DDR4 или же GDDR5.[7] Это достигается за счет укладки до восьми DRAM умирает (таким образом, будучи Трехмерная интегральная схема ), включая дополнительный базовый кристалл (часто кремниевый посредник[8][9]) с контроллером памяти, которые связаны между собой сквозные кремниевые переходные отверстия (TSV) и микровыступы. Технология HBM в принципе аналогична, но несовместима с Гибридный куб памяти интерфейс разработан Микронная технология.[10]

Шина памяти HBM очень широка по сравнению с другими модулями памяти DRAM, такими как DDR4 или GDDR5. Стек HBM из четырех кристаллов DRAM (4-Hi) имеет два 128-битных канала на кристалл, всего 8 каналов и ширину 1024 бит. Таким образом, графическая карта / графический процессор с четырьмя стеками 4-Hi HBM будет иметь шину памяти шириной 4096 бит. Для сравнения, ширина шины памяти GDDR составляет 32 бита, с 16 каналами для графической карты с 512-битным интерфейсом памяти.[11] HBM поддерживает до 4 ГБ на пакет.

Большее количество подключений к памяти по сравнению с DDR4 или GDDR5 потребовало нового метода подключения памяти HBM к графическому процессору (или другому процессору).[12] AMD и Nvidia использовали специальные кремниевые чипы, называемые посредники, чтобы подключить память и графический процессор. Дополнительное преимущество этого промежуточного устройства состоит в том, что он требует, чтобы память и процессор были физически близко друг к другу, что сокращает пути к памяти. Однако, как изготовление полупроводниковых приборов значительно дороже, чем печатная плата производство, это увеличивает стоимость конечного продукта.

  • Кристалл HBM DRAM

  • Матрица контроллера HBM

  • Память HBM в Radeon R9 Nano видеокарта

Интерфейс

HBM DRAM тесно связан с вычислительным кристаллом хоста с помощью распределенного интерфейса. Интерфейс разделен на независимые каналы. Каналы полностью независимы друг от друга и не обязательно синхронны друг с другом. В HBM DRAM используется архитектура с широким интерфейсом для достижения высокоскоростной работы с низким энергопотреблением. HBM DRAM использует 500 МГц дифференциал clock CK_t / CK_c (где суффикс «_t» обозначает «истинный» или «положительный» компонент дифференциальной пары, а «_c» обозначает «дополнительный»). Команды регистрируются на переднем фронте CK_t, CK_c. Каждый интерфейс канала поддерживает 128-битную шину данных, работающую с удвоенной скоростью передачи данных (DDR). HBM поддерживает скорость передачи 1ГТ / с на вывод (передача 1 бита), что дает общую пропускную способность корпуса 128 ГБ / с.[13]

HBM2

Второе поколение памяти с высокой пропускной способностью, HBM2, также определяет до восьми кристаллов на стек и удваивает скорость передачи выводов до 2ГТ / с. Сохраняя доступ шириной 1024 бита, HBM2 может обеспечить пропускную способность памяти 256 ГБ / с на пакет. Спецификация HBM2 допускает до 8 ГБ на пакет. По прогнозам, HBM2 будет особенно полезен для потребительских приложений, чувствительных к производительности, таких как виртуальная реальность.[14]

19 января 2016 г. Samsung объявила о начале массового производства HBM2 с объемом до 8 ГБ на стек.[15][16] SK Hynix также объявила о доступности стеков по 4 ГБ в августе 2016 года.[17]

  • Кристалл HBM2 DRAM

  • Матрица контроллера HBM2

  • Интерпозер HBM2 Radeon RX Vega 64 GPU, со снятыми матрицами HBM; GPU все еще на месте

HBM2E

В конце 2018 года JEDEC анонсировал обновление спецификации HBM2, предусматривающее увеличение пропускной способности и емкости.[18] В официальной спецификации теперь поддерживается до 307 ГБ / с на стек (эффективная скорость передачи данных 2,5 Тбит / с), хотя продукты, работающие с такой скоростью, уже были доступны. Кроме того, в обновлении была добавлена ​​поддержка стеков 12 ‑ Hi (12 матриц), что позволило увеличить емкость до 24 ГБ на стек.

20 марта 2019 г. Samsung анонсировали свой Flashbolt HBM2E с восемью плашками на стопку и скоростью передачи 3,2ГТ / с, обеспечивая в общей сложности 16 ГБ и 410 ГБ / с на стек.[19]

12 августа 2019, СК Хайникс анонсировали HBM2E с восемью плашками на стопку, скорость передачи 3,6ГТ / с, обеспечивая в общей сложности 16 ГБ и 460 ГБ / с на стек.[20][21] 2 июля 2020 года SK Hynix объявила о начале массового производства.[22]

HBMnext

В конце 2020 г. Микрон объявили, что стандарт HBM2E будет обновлен, и наряду с этим они представили следующий стандарт, известный как HBMnext. Первоначально предложенный как HBM3, это большой скачок поколений от HBM2 и замена HBM2E. Этот новый VRAM выйдет на рынок в 4 квартале 2022 года. Вероятно, это приведет к появлению новой архитектуры, как следует из названия.

В то время как архитектура могут быть переработаны, утечки указывают на то, что производительность будет аналогична обновленному стандарту HBM2E. Эта оперативная память, скорее всего, будет использоваться в основном в дата-центре. GPU.[23][24][25][26]

История

Фон

Штампованные память изначально была коммерциализирована в флэш-память промышленность. Toshiba представил NAND flash микросхема памяти с восемью сложенными матрицами в апреле 2007 г.,[27] с последующим Hynix Semiconductor в сентябре 2007 года представили микросхему флэш-памяти NAND с 24 установленными друг на друга кристаллами[28]

3D-стек оперативная память (RAM) с использованием через кремний через (TSV) технология была коммерциализирована Эльпида Память, которые разработали первые 8 ГБ DRAM чип (сложен с четырьмя DDR3 SDRAM dies) в сентябре 2009 г. и выпустил его в июне 2011 г. В 2011 г. СК Хайникс представил 16 Память DDR3 ГБ (40 нм класс) по технологии TSV,[2] Samsung Electronics представила 3D-стек 32 ГБ DDR3 (30 нм class) на базе TSV в сентябре, а затем Samsung и Микронная технология анонсирован на базе ТСВ Гибридный куб памяти (HMC) в октябре.[29]

Разработка

AMD Фиджи, первый графический процессор, использующий HBM

Разработка памяти с высокой пропускной способностью началась в AMD в 2008 году для решения проблемы постоянно растущего энергопотребления и форм-фактора компьютерной памяти. В течение следующих нескольких лет AMD совместно с командой, возглавляемой старшим научным сотрудником AMD Брайаном Блэком, разработала процедуры для решения проблем с укладкой кристаллов.[30] Чтобы помочь AMD реализовать свое видение HBM, они привлекли партнеров из отрасли памяти, в частности, корейскую компанию. СК Хайникс,[30] у которых был предыдущий опыт работы с памятью с трехмерным стеком,[2][28] а также партнеры из посредник промышленность (тайваньская компания UMC ) и упаковка промышленность (Амкор Технологии и ASE ).[30]

Разработка HBM была завершена в 2013 году, когда SK Hynix построил первый чип памяти HBM.[2] HBM был принят в качестве отраслевого стандарта JESD235 JEDEC в октябре 2013 года по предложению AMD и SK Hynix в 2010 году.[5] Начало массового производства на предприятии Hynix в г. Ичхон, Южная Корея, 2015 год.

Первым графическим процессором, использующим HBM, был AMD Fiji, выпущенный в июне 2015 года для AMD Radeon R9 Fury X.[3][31][32]

В январе 2016 г. Samsung Electronics началось раннее массовое производство HBM2.[15][16] В том же месяце HBM2 был принят JEDEC в качестве стандарта JESD235a.[6] Первый чип GPU, использующий HBM2, - это Nvidia Tesla P100 был официально анонсирован в апреле 2016 года.[33][34]

Будущее

В Горячие чипсы в августе 2016 года и Samsung, и Hynix анонсировали технологии памяти HBM следующего поколения.[35][36] Обе компании анонсировали высокопроизводительные продукты, которые, как ожидается, будут иметь повышенную плотность, увеличенную пропускную способность и более низкое энергопотребление. Samsung также анонсировала разработку более дешевой версии HBM, ориентированной на массовые рынки. Удаление буферной матрицы и уменьшение количества TSV снижает стоимость, но за счет уменьшения общей пропускной способности (200 ГБ / с).

Смотрите также

Рекомендации

  1. ^ ISSCC 2014 Тенденции В архиве 2015-02-06 в Wayback Machine стр. 118 «DRAM с высокой пропускной способностью»
  2. ^ а б c d «История: 2010-е». СК Хайникс. Получено 8 июля 2019.
  3. ^ а б Смит, Райан (2 июля 2015 г.). «Обзор AMD Radeon R9 Fury X». Анандтех. Получено 1 августа 2016.
  4. ^ Морган, Тимоти Прикетт (25 марта 2014 г.). «Будущие графические процессоры Nvidia 'Pascal' с 3D-памятью, внутреннее соединение». EnterpriseTech. Получено 26 августа 2014. Nvidia будет использовать вариант многослойной памяти DRAM с высокой пропускной способностью (HBM), разработанный AMD и Hynix.
  5. ^ а б DRAM с высокой пропускной способностью (HBM) (JESD235), JEDEC, октябрь 2013 г.
  6. ^ а б «JESD235a: память с высокой пропускной способностью 2». 2016-01-12.
  7. ^ HBM: решение памяти для требовательных к полосе пропускания процессоров В архиве 2015-04-24 на Wayback Machine, Джунён Ким и Юнсу Ким, SK Hynix // Hot Chips 26 августа 2014 г.
  8. ^ https://semiengineering.com/whats-next-for-high-bandwidth-memory/
  9. ^ https://semiengineering.com/knowledge_centers/packaging/advanced-packaging/2-5d-ic/interposers/
  10. ^ Куда направляются интерфейсы DRAM? В архиве 2018-06-15 в Wayback Machine // EETimes, 18.04.2014 "Куб гибридной памяти (HMC) и конкурирующая технология под названием High-Bandwidth Memory (HBM) предназначены для вычислительных и сетевых приложений. Эти подходы устанавливают несколько чипов DRAM на логический чип."
  11. ^ Основные характеристики стандарта памяти с высокой пропускной способностью (HBM). Майк О’Коннор, старший научный сотрудник, NVidia // Форум памяти - 14 июня 2014 г.
  12. ^ Смит, Райан (19 мая 2015 г.). "AMD углубляется в память с высокой пропускной способностью - что принесет HBM AMD?". Анандтех. Получено 12 мая 2017.
  13. ^ «Память с высокой пропускной способностью (HBM)» (PDF). AMD. 2015-01-01. Получено 2016-08-10.
  14. ^ Валич, Тео (2015-11-16). «NVIDIA представляет графический процессор Pascal: 16 ГБ памяти, пропускная способность 1 ТБ / с». VR мир. Получено 2016-01-24.
  15. ^ а б «Samsung начинает массовое производство самой быстрой в мире памяти DRAM на основе новейшего интерфейса памяти с высокой пропускной способностью (HBM)». news.samsung.com.
  16. ^ а б «Samsung объявляет о массовом производстве памяти HBM2 нового поколения - ExtremeTech». 19 января 2016 г.
  17. ^ Шилов, Антон (1 августа 2016 г.). «SK Hynix добавляет HBM2 в каталог». Анандтех. Получено 1 августа 2016.
  18. ^ «JEDEC обновляет революционный стандарт памяти с высокой пропускной способностью (HBM)» (Пресс-релиз). JEDEC. 2018-12-17. Получено 2018-12-18.
  19. ^ «Samsung Electronics представляет новую технологию памяти с высокой пропускной способностью, предназначенную для центров обработки данных, графических приложений и искусственного интеллекта | Глобальный веб-сайт Samsung Semiconductor». www.samsung.com. Получено 2019-08-22.
  20. ^ «SK Hynix разрабатывает самую быструю в мире память с высокой пропускной способностью, HBM2E». www.skhynix.com. 12 августа 2019 г.,. Получено 2019-08-22.
  21. ^ «SK Hynix объявляет о выпуске продуктов памяти HBM2E, 460 ГБ / с и 16 ГБ на стек».
  22. ^ «SK hynix начинает массовое производство высокоскоростной памяти DRAM», HBM2E"". 2 июля 2020.
  23. ^ https://videocardz.com/newz/micron-reveals-hbmnext-successor-to-hbm2e
  24. ^ https://amp.hothardware.com/news/micron-announces-hbmnext-as-eventual-replacement-for-hbm2e
  25. ^ https://www.extremetech.com/computing/313829-micron-introduces-hbmnext-gddr6x-confirms-rtx-3090
  26. ^ https://www.tweaktown.com/news/74503/micron-unveils-hbmnext-the-successor-to-hbm2e-for-next-gen-gpus/amp.html
  27. ^ "TOSHIBA КОММЕРЦИАЛИЗИРУЕТ НАИБОЛЬШИЕ В ОТРАСЛИ ВСТРОЕННУЮ ФЛЭШ-ПАМЯТЬ NAND ДЛЯ МОБИЛЬНЫХ ТОВАРОВ". Toshiba. 17 апреля 2007 г. Архивировано с оригинал 23 ноября 2010 г.. Получено 23 ноября 2010.
  28. ^ а б "Hynix удивляет индустрию чипов NAND". Korea Times. 5 сентября 2007 г.. Получено 8 июля 2019.
  29. ^ Када, Морихиро (2015). "История исследований и развития технологии трехмерной интеграции". Трехмерная интеграция полупроводников: обработка, материалы и приложения. Springer. С. 15–8. ISBN  9783319186757.
  30. ^ а б c Память с высокой пропускной способностью (HBM) от AMD: создание красивой памяти, AMD
  31. ^ Смит, Райан (19 мая 2015 г.). «AMD HBM Deep Dive». Анандтех. Получено 1 августа 2016.
  32. ^ [1] AMD открывает новую эру компьютерных игр, включая первое в мире графическое ядро ​​с революционной технологией HBM
  33. ^ Смит, Райан (5 апреля 2016 г.). «Nvidia анонсирует ускоритель Tesla P100». Анандтех. Получено 1 августа 2016.
  34. ^ «NVIDIA Tesla P100: самый передовой графический процессор для центров обработки данных из когда-либо созданных». www.nvidia.com.
  35. ^ Смит, Райан (23 августа 2016 г.). «Горячие чипы 2016: поставщики памяти обсуждают идеи будущих технологий памяти - DDR5, дешевый HBM и многое другое». Анандтех. Получено 23 августа 2016.
  36. ^ Уолтон, Марк (23 августа 2016 г.). «HBM3: дешевле, до 64 ГБ в упаковке и терабайт в секунду». Ars Technica. Получено 23 августа 2016.

внешняя ссылка