HBM 정의
HBM이란 High Bandwidth Memory의 약자로 기존 DRAM 반도체 기술보다 더 높은 대역폭을 제공하기 위해 개발된 고성능 메모리 반도체 기술입니다. HBM은 주로 GPU, AI 가속기, 고성능 컴퓨팅(HPC) 등에서 사용되며, 기존의 GDDR 메모리보다 높은 대역폭과 낮은 전력 소비를 갖는 것이 특징입니다. 특히, HBM은 여러 개의 DRAM 다이를 수직으로 적층 하여 TSV(Through-Silicon Via) 기술을 사용해 상호 연결하는 방식으로 구현되므로, 이를 통해 물리적 거리를 줄이고 데이터 전송 속도를 향상하는 동시에 전력효율성을 높일 수 있습니다.
HBM의 특징
HBM은 기존 DRAM 반도체인 GDDR5와 GDDR6 대비 훨씬 높은 대역폭을 제공합니다. 예를 들어, HBM2 같은 경우에는 최대 307.2GB/s의 대역폭을 제공할 수 있으며, HBM3는 최대 819GB/s에 달하는 대역폭을 제공할 수 있습니다. 그리고 HBM은 고대역폭을 제공하면서도 TSV를 통한 짧은 데이터 전송 경로와 낮은 동작 전압 덕분에 다른 반도체 대비 상대적으로 낮은 전력 소모를 유지할 수 있습니다. 또한, 기존 GDDR 메모리 반도체는 메모리 칩이 GPU 또는 CPU의 외부에 배치되었지만, HBM 같은 경우에는 여러 개의 DRAM 다이를 적층 하여 GPU 또는 AI 프로세서의 패키지 내부에 배치할 수 있습니다. 그래서 이를 통해 공간 활용에 효율적이며, 더 작은 크기를 가지면서도 성능은 더 좋은 시스템 설계가 가능합니다.
HBM의 발전 과정
HBM의 발전 과정은 다음과 같습니다. 먼저 2013년에 발표된 HBM1 모델은 최대 1GB 용량이면서 128GB/s 대역폭을 제공했습니다. AMD사의 GPU Fiji에서 최초로 사용된 이력이 있습니다. 다음으로는, HBM2 모델이 개발되었는데, 이는 2016년에 발표되었습니다. HBM2는 2GB 에서 8GB 용량을 지원했고, HBM1 보다 2배 높은 256GB/s 대역폭을 제공했습니다. 이는 주로 엔비디아 V100, AMD Vega GPU 등에 사용되었습니다. 다음 모델은 HBM2E로 2018년에 개발되었습니다. 이는 최대 16GB 용량 지원이 가능하면서 460GB/s 대역폭을 제공했습니다. 해당 모델부터 AI 가속기와 데이터센터용 GPU에 본격적으로 활용되기 시작했습니다. 다음은 2021년에 HBM3로 발전됐고, 이는 최대 24GB 용량에 819GB/s 대역폭을 제공하고 있습니다. 현재 AI시장에서 널리 사용되고 있으며 최근 반도체 회사들은 HBM4 개발에 사활을 걸고 있습니다.
HBM 활용 분야
최근 들어서 HBM은 다양한 분야에서 필수적으로 활용되고 있습니다. 먼저, AI 모델 및 머신러닝 분야에서 활발하게 사용되고 있습니다. 딥러닝 모델에서는 데이터 학습 및 추론 과정에서는 대량의 데이터를 빠르게 처리해야 하는데, HBM은 고대역폭과 낮은 지연시간을 특징으로 하고 있기 때문에 AI 가속기의 성능을 극대화하는데 기여하고 있습니다. 또한, 고성능 컴퓨터 분야에서도 유용하게 활용되고 있습니다. 슈퍼컴퓨터와 같은 시스템에서는 무수히 많은 양의 데이터를 빠르게 처리해야 합니다. HBM은 높은 메모리 대역폭을 제공하고 있기 때문에 복잡하고 어려운 연산을 빠르게 수행하여 고성능 컴퓨터 분야 발전에 보탬이 되고 있습니다. 다음으로 HBM은 그래픽카드에 사용되면서 고해상도 렌더링 및 실시간 그래픽 처리도 지원하고 있습니다. 엔비디아나 AMD 업체의 일부 고급 GPU에서 HBM이 활용되고 있으며, 최근 들어서는 GPU 품귀현상도 발생하고 있습니다.
HBM과 기존 메모리 기술 비교
HBM은 기존 메모리 기술인 GDDR6와 DDR4에 비해 성능이 우월하지만, 제조 공정이 복잡하고 단가가 높다는 단점이 있습니다.
HBM과 GDDR6, DDR4의 성능 비교표는 아래와 같습니다.
| 특징 | HBM | GDDR6 | DDR4 |
| 대역폭 | 매우 높음 | 중간 | 낮음 |
| 전력 소비 | 낮음 | 높음 | 중간 |
| 폼팩터 | 작음 (적층 구조) | 큼 | 큼 |
| 응용 분야 | AI, HPC, GPU | GPU, 게임 | 일반 PC, 서버 |
HBM의 미래 전망
AI가 발전하면서 현재 모든 기업들이 HBM을 필요로 하고 있습니다만, 여기에 그치지 않고 HBM은 향후에는 AI 분야뿐만 아니라 고성능 컴퓨터, 5G, 자율주행 등의 혁신적인 기술 분야에서 더욱 중요한 역할을 할 것으로 예상됩니다. 특히 HBM3 및 HBM4가 본격적으로 개발되고 양산되면, 기존의 DDR 및 GDDR 메모리를 대체할 가능성도 있으며, 3D 패키징 및 새로운 반도체 제조 공정이 발전함에 따라 높은 비용 문제도 점진적으로 해결될 것으로 보입니다. 현재 삼성전자, SK하이닉스, 마이크론 등 주요 반도체 기업들이 HBM 시장을 선도하기 위해 고군분투하고 있으며, 향후 차세대 메모리 기술 개발 경쟁이 더욱 치열해질 전망이다.