HBM·GDDR 심화
NPU·GPU에서의 HBM 활용 — Weight·Activation·KV Cache 배치 분석
Weight·activation·KV cache — HBM 자리잡기와 시리즈 마무리.
· 12분 읽기
hbm npu
Blog
Tech articles, book reviews, and presentations.
페이지 39 / 73
CXL 4.0 Internals
Ch 7: CXL.cache — D2H·H2D 흐름과 coherency state
디바이스가 호스트 메모리를 캐시하는 프로토콜.
· 9분 읽기
cxl-cache d2h
HBM·GDDR 심화
HBM 메모리 컨트롤러 분석 — Bank·Row·Column·Address Mapping·Scheduling
Bank·row·column·command — 컨트롤러가 보는 HBM과 scheduling·address mapping.
· 8분 읽기
hbm memory-controller
CXL 4.0 Internals
Ch 6: CXL.io — PCIe와의 차이·DOE·DVSEC
CXL.io 프로토콜의 PCIe 호환성과 CXL 고유 확장.
· 8분 읽기
cxl-io pcie
HBM·GDDR 심화
HBM 열 설계와 전력 관리 — Stack 열 부하·Refresh Cost·냉각 솔루션
HBM stack의 열 부하·power state·refresh의 cost와 냉각 솔루션.
· 9분 읽기
hbm thermal
CXL 4.0 Internals
Ch 5: CXL 4.0의 핵심 새 기능 — 128 GT/s·Bundled Port
PCIe 7.0 기반 128 GT/s, Bundled Port·Streamlined Port의 동기와 효과.
· 9분 읽기
cxl-4 pcie-7
HBM·GDDR 심화
메모리 대역폭 병목 분석 — Theoretical vs Achievable·Roofline·Memory Wall
Theoretical vs achievable — 메모리 대역폭의 실제와 roofline·memory wall.
· 9분 읽기
hbm bandwidth
CXL 4.0 Internals
Ch 4: Pooling·GFAM·Fabric — Multi-host 메모리 공유
CXL 2.0 pooling, CXL 3.x fabric, GFAM (Global Fabric Attached Memory).
· 9분 읽기
cxl memory-pooling
HBM·GDDR 심화
GDDR6·GDDR6X·GDDR7 분석 — PAM 신호로 32 Gbps 도달한 경로
고속 그래픽 메모리 — clock·PAM 신호의 진화로 32 Gbps에 도달한 경로.
· 9분 읽기
gddr gddr6
CXL 4.0 Internals
Ch 3: 메모리 일관성 모델 — HDM-DB·HDM-D·Bias·BISnp
Host-managed Device Memory 두 종류와 일관성 메커니즘.
· 8분 읽기
cxl coherency