平头哥真武 M890:架构要点与 NVIDIA 代际对照
笔记依据:平头哥公开文档 《真武 M890 架构简介》(V1.0,2026-09-16)。白皮书级概览,不是编程手册;几乎不给绝对 TFLOPS / HBM 容量 / 功耗。
一句话:M890 是面向数据中心 AI 训推的第二代自研 GPGPU——片内用 CE/CU + TFU/AIU,片间用自研 ICN 扩到 8 / 64 / 1024 卡;软件侧以 T-Head SAIL 对接。特性清单介于 Hopper 与 Blackwell 之间:精度叙事偏 Blackwell,互联带宽量级更接近 Hopper H100。
1. 芯片结构
| 层级 | 内容 |
|---|---|
| 板型 | OAM(满配)与 PCIe(规格表对照列为 M530 PCIe,配置更少) |
| OAM 满配 | 10 CE,约 39 CU;TSM 合计约 9.75 MiB(每 CU 256 KiB) |
| 精度 | FP8、FP4(with micro-scales)、INT8/16、FP16、BF16、INT32、FP32 |
| 缓存 | CU L1 → CE 共享 L2 → 片上 LLC → Memory Controller |
| Host | PCIe 5.0 x16 |
| 片间 | ICN:8 端口 × 100 GB/s 双向 ≈ 800 GB/s |
| 媒体 | 4 视频解码 + 2 编码(OAM)+ 4 JPEG;服务多模态 / 视频流 AI |
| 调度 | Host→CP 下发任务;GD 把 Thread Block 分到 CE/CU |
OAM 与 PCIe 板型对照(白皮书图表 2-2):
| 特性 | 真武 M890 OAM | 真武 M530 PCIe |
|---|---|---|
| CEs / 芯片 | 10 | 8 |
| CUs / 芯片 | 39 | 30 |
| CUs / CE | 4 | 4 |
| TSM / CU | 256 KiB | 256 KiB |
| TSM / 芯片 | 9.75 MiB | 7.5 MiB |
| 编码器 | 2 | 0 |
| 解码器 | 4 | 4 |
| ICN 端口 | 8 | 8 |
注意:表中一列是 M890 OAM,另一列标成 M530 PCIe——更像产品线对照,不宜当成「同一颗 M890 的两种封装」一字不差。
2. 白皮书强调的硬件特性
- 39 CU 并行算力(OAM 满配)。
- ECC + 大容量内存(定性描述):覆盖训练权重/数据与长序列 KV Cache。
- 三级缓存:过滤多数访存,降低数据移动与功耗。
- AIU:把复杂张量地址计算和加载从 ALU 卸掉;支持异步张量读进 TSM,与 TFU 做软件流水。文中称 GEMM 场景 TFU 利用率可达约 95%(例:M=1280, N=2048)。
- 大块 TSM(每 CU 256 KiB):藏访存延迟,喂饱张量核。
- PCIe 5.0:Host–Device 高速通道。
- MPS:最多 7 个用户进程上下文,按 CE 划分资源,做多租户 / 多任务。
微架构侧:CU 为自研 SIMT 核;指令分发到 VALU / TFU / SALU / SFU / LSU。对 FP16/BF16,Tensor 算力与 FP32 VALU 约为 32:1。
3. 片间扩展(ICN)
单卡 ─ICN─ OAM8(多环直连;集合通信可打满带宽;跨卡最多约 1 跳中转)
│
├─ Scale-Out:经 PCIe Switch + RDMA/Eth(瓶颈易在 PCIe)
│
├─ ICN64:自研 ICN Switch,全对称;任意两卡约 800 GB/s;多租户分区内不互相吃带宽
│
└─ ICN1024:两级 Switch,最多 1024 卡,约 3 跳可达,带自适应路由
通信语义:内存读写 + DMA,带纠错重传。软件侧集合通信库为 PCCL(all-reduce / all-gather / P2P 等,走 PCIe 或 ICN)。
4. 和 NVIDIA 哪一代更像?
先对齐三代「代际指纹」:
| 特征 | Ampere (A100) | Hopper (H100) | Blackwell (B200 等) |
|---|---|---|---|
| 低精度主打 | BF16/FP16/TF32/INT8 | FP8 + Transformer Engine | FP4/FP6 + microscaling,FP8 更强 |
| 异步张量搬数 | 无 TMA 这一代叙事 | TMA | 延续并加强 |
| Host 口 | PCIe 4 | PCIe 5 | PCIe 5 |
| 片间 | NVLink 3 | NVLink 4 ≈ 900 GB/s 量级 | NVLink 5(更高) |
M890 公开特性对表:
| M890 | 更像谁 | 说明 |
|---|---|---|
| FP8 + FP4 (micro-scales) | Blackwell | Ampere 无原生 FP8;Hopper 有 FP8、无这套 FP4 microscale 主叙事 |
| AIU 异步张量读 → TSM | Hopper+ | 同类于 Hopper TMA:搬数/地址计算卸到专用单元 |
| PCIe 5.0 x16 | Hopper / Blackwell | 高于 Ampere 的 PCIe 4 |
| ICN ≈ 800 GB/s | 偏 Hopper H100 量级 | 接近 NVLink 4 单卡对等带宽档,未体现 Blackwell NVLink 5 的跃升感 |
| OAM + Switch 扩到 64/1024 | 数据中心训推卡 | 产品故事对齐 H100/B200 超节点 |
| MPS(最多 7 上下文) | CUDA MPS 路线 | NVIDIA 数据中心还强推 MIG;M890 另有虚拟化文档,本白皮书主写 MPS |
结论:不像 Ampere。功能清单是 Hopper 打底 + Blackwell 精度点名——异步张量通路、PCIe5、~800GB/s 级互联偏 Hopper;FP4 + micro-scales 明确靠 Blackwell 特性集。白皮书未给算力/显存/能效,只能谈代际定位,不能宣称性能等于 H100 或 B200。
5. 软件侧(仅硬件笔记的边界)
完整软件栈名称为 T-Head SAIL(驱动、编译器 hgcc、acBLAS/acDNN、PCCL、Asight、推理引擎等)。训练态 PyTorch 走适配发行版 PyTorch-for-sail:API 尽量保留,设备名仍用 torch.cuda,构建时用 Sailify 将 CUDA 源码迁到 HGGC,再链 SAIL runtime。细节见开发者中心「AI 软件生态」文档,本文不展开。
6. 怎么读这篇白皮书
- 定位:架构宣传 + 规格总览,硬指标(TFLOPS、HBM、TDP)基本缺失。
- 对标语境:NVIDIA 式 GPGPU 分层(SIMT、Tensor、共享内存、多卡互联、MPS、集合通信),换成 CE/CU/TFU/AIU/ICN/SAIL 名词。
- 选型时:先按「Hopper 级互联与执行模型、Blackwell 级低精度清单」理解;落地前必须用同代 SDK/驱动上的实测补齐算力与显存。