Blackwell 上的 GEMM 数据流水
D = A × B — 点击流水线上的动作,查看架构上的数据路径
GMEM
A, B
TMA load
SMEM
tcgen05.mma
TMEM
accum
tcgen05.ld
Reg
cast
store
SMEM
TMA store
GMEM
D
Blackwell 架构
Streaming Multiprocessor (SM)
Tensor Core(tcgen05)
第五代 MMA
CUDA Core
FP/INT 运算单元
共享内存(SMEM)
每 SM 228 KB
张量内存(TMEM)
128 lanes
寄存器堆
TMA Engine
硬件数据搬运器
SM ...
× N
全局内存(GMEM)
点击流水线上的动作,高亮对应数据路径。