HBM란?

えいちびーえむ

複数のDRAMダイをTSVで積層し、非常に広いバス幅で高い帯域を実現するメモリ。

일본어 명칭: HBM

HBM은(는) 첨단 패키징(3D와 칩렛), CPU와 아키텍처, AI 하드웨어·소프트웨어 스택 등 3개 분야의 연습 문제 16개에 나와요.

분야: 첨단 패키징(3D와 칩렛)

도전해 보기: HBM 관련 문제

HBM(High Bandwidth Memory)에 대한 설명으로 올바른 것은?

  1. A플래시 메모리를 한 층만 사용하는 저속 메모리
  2. BCPU 칩 안에 내장된 SRAM 캐시
  3. C여러 개의 DRAM 다이를 TSV로 적층하고, 매우 넓은 버스 폭으로 높은 대역폭을 얻는 메모리
정답과 해설 보기

정답: C. 여러 개의 DRAM 다이를 TSV로 적층하고, 매우 넓은 버스 폭으로 높은 대역폭을 얻는 메모리

HBM은 여러 개의 DRAM 다이를 TSV로 쌓아 올리고, 1,024개라는 매우 넓은 데이터 버스로 프로세서와 연결하여 높은 데이터 전송 대역폭을 구현하는 메모리입니다. 예를 들어 HBM3는 핀당 6.4 Gb/s로, 스택 하나에서 약 819 GB/s가 됩니다. 실리콘 인터포저 등의 위에 프로세서와 나란히 배치하는 2.5D 실장에 사용되며, AI용 GPU 등에 탑재됩니다. 플래시나 SRAM 캐시와는 다른 것입니다.

AI용 GPU에서 GPU 칩과 HBM을 하나의 실리콘 인터포저 위에 나란히 실장하는 주된 이유는?

  1. A부품 수를 늘리기 위해
  2. B칩 사이를 매우 많은 배선으로 짧게 연결하여 매우 높은 메모리 대역폭을 얻기 위해
  3. C메모리 용량을 줄이기 위해
정답과 해설 보기

정답: B. 칩 사이를 매우 많은 배선으로 짧게 연결하여 매우 높은 메모리 대역폭을 얻기 위해

HBM은 스택 하나당 1,024개의 데이터선을 가지며 여러 스택을 나란히 놓으면 수천 개가 되므로, 일반 패키지 기판으로는 배선을 다 처리할 수 없습니다. 미세 배선을 만들 수 있는 실리콘 인터포저 위에 GPU와 HBM을 나란히 놓으면, 많은 배선으로 수 mm의 짧은 거리에서 연결할 수 있어 AI 연산에 필요한 수 TB/s의 메모리 대역폭을 구현할 수 있습니다. 부품 수를 늘리거나 용량을 줄이기 위한 것이 아닙니다.

해설 속 HBM

HBM이(가) 나오는 문제 (16)

  1. HBM(High Bandwidth Memory)에 대한 설명으로 올바른 것은?
  2. AI용 GPU에서 GPU 칩과 HBM을 하나의 실리콘 인터포저 위에 나란히 실장하는 주된 이유는?
  3. HBM에서 하나의 스택에 쌓을 수 있는 DRAM 다이의 수로 일반적인 것은?
  4. HBM의 최하층에 있는 베이스 다이(로직 다이)의 역할로 올바른 것은?
  5. TSMC의 2.5D 실장 기술로, AI용 GPU와 HBM을 실리콘 인터포저 위에 나란히 놓고 연결하는 용도로 널리 사용되는 것은?
  6. HBM3까지의 세대에서 HBM 스택 하나당 데이터 버스의 폭으로 올바른 것은?
  7. GPU가 행렬 연산이나 AI의 학습·추론에 적합한 주된 이유는?
  8. TSV(실리콘 관통 전극)에 대한 설명으로 올바른 것은?
  9. 2.5D 실장에 사용되는 실리콘 인터포저의 역할로 올바른 것은?
  10. 하이브리드 본딩에 대한 설명으로 올바른 것은?
  11. TSV로 적층한 칩끼리, 또는 칩과 인터포저의 접속에 사용되는, 일반 솔더 볼보다 훨씬 작은 범프를 무엇이라 하는가?
  12. 2.5D 실장과 3D 실장의 차이로 올바른 것은?
  13. 프로세서의 연산 성능 향상에 비해 메모리에서 데이터를 공급하는 속도가 따라가지 못해 전체 성능을 제한해 버리는 문제를 무엇이라 하는가?
  14. TSMC가 개발한 팬아웃형 웨이퍼 레벨 패키지 기술로, 2016년 스마트폰 프로세서에 채택되어 널리 알려진 것은?
  15. 노광 장비에서 한 번에 노광할 수 있는 최대 범위(약 26 mm × 33 mm)보다 큰 실리콘 인터포저를 제조하는 데 사용되는 방법은?

이 용어가 포함된 비교

관련 용어

TSV(シリコン貫通電極) GPU CoWoS CMP BGA FlashAttention 2.5D実装 3D実装 再配線層(RDL) UCIe

용어집으로 돌아가기