다섯 살도 알 수 있게 · 시스템SW
HBM(고대역폭 메모리)이 뭐예요?
HBM을, 엔진(CPU/GPU) 바로 옆에 공구탑(메모리)을 쌓고 아주 넓은 통로를 뚫어 쓰는 이야기로 풀어봤어요.
큰 엔진 작업은 공구가 한꺼번에 많이 필요해요.호스 한 가닥으로는 공구가 줄줄이 늦게 와요.
공구함이 멀리 있으면 호스를 늘리는 데 한계가 있어요.그래서 공구함을 엔진 바로 옆으로 옮겨요.
HBM은 공구탑을 엔진 바로 옆에 쌓고 통로를 아주 넓게 뚫은 것이에요.한 번에 아주 많은 공구가 동시에 엔진으로 건너가요(고대역폭).
층층이 쌓기공구함 여러 개를 쌓아요
바로 옆에 두기엔진 가까이 두어 거리 줄여요
통로를 아주 넓게공구가 천 가닥이 넘는 통로로 한 번에 오가요
비싼 대신 대역폭이 큼대역폭이 큰 대신 열과 비용이 늘어요
일반 DDR은 공구함이 멀고 호스가 가늘지만, HBM은 공구탑이 가깝고 통로가 넓어요.HBM은 DDR보다 대역폭이 크지만 더 비싸요.
공구탑은 높이 쌓을수록 열과 비용이 늘어요.그래서 HBM은 보통 AI·그래픽처럼 대역폭이 중요한 곳에 써요.
한 줄로
HBM은 메모리 칩을 층층이 쌓아 프로세서 바로 옆에 두고, 아주 넓은 통로로 연결해 데이터를 한꺼번에 많이 주고받는 메모리예요.
HBM(High Bandwidth Memory, 고대역폭 메모리)은 DRAM 칩을 TSV(실리콘 관통전극)로 수직 적층하고, 인터포저를 통해 GPU·AI 가속기 바로 옆에 배치해 매우 넓은 버스 폭으로 연결한 메모리예요. 핀 하나의 속도를 올리기보다 버스 폭을 넓혀(DDR 모듈 64비트, HBM 스택당 1,024비트, HBM4는 2,048비트) 기존 DDR 메모리보다 훨씬 높은 대역폭을 제공하지만, 제조 공정이 복잡해 비용이 높고 발열 관리가 중요해요. 그래픽·AI 연산처럼 메모리 대역폭이 성능을 좌우하는 영역에 주로 쓰여요.
어른들은 이렇게 불러요
- HBM
HBM - 엔진 바로 옆에 쌓은 공구탑. 공구탑과 엔진이 아주 넓은 통로로 연결돼요.
- 대역폭
Bandwidth - 일정 시간에 건너갈 수 있는 공구의 양. 통로가 넓을수록 대역폭이 커요.
- TSV(실리콘 관통전극)
TSV (Through-Silicon Via) - 공구탑 층 사이를 바로 뚫은 기둥. 적층된 칩끼리 바로 연결해요.
- 인터포저
Interposer - 공구탑과 엔진을 잇는 받침판. 공구탑과 엔진을 가깝게 놓게 해줘요.
- DDR 메모리
DDR Memory - 멀리 떨어진 일반 공구함. HBM보다 싸지만 대역폭이 낮아요.
- GPU/AI 가속기
GPU/AI Accelerator - 공구가 많이 필요한 큰 엔진. HBM이 주로 옆에 붙는 곳이에요.
- 발열 관리
Thermal Management - 공구탑을 높이 쌓을수록 늘어나는 열. HBM 설계의 큰 과제예요.
- 메모리 대역폭 병목
Memory Bandwidth Bottleneck - 공구가 늦게 와서 엔진이 노는 상태. HBM이 해결하려는 문제예요.
다음 이야기
작업 공간을 구역으로 나눠 쓰는 규칙 →