平头哥真武 M890:架构要点与 NVIDIA 代际对照

笔记依据:平头哥公开文档 《真武 M890 架构简介》(V1.0,2026-09-16)。白皮书级概览,不是编程手册;几乎不给绝对 TFLOPS / HBM 容量 / 功耗。

一句话:M890 是面向数据中心 AI 训推的第二代自研 GPGPU——片内用 CE/CU + TFU/AIU,片间用自研 ICN 扩到 8 / 64 / 1024 卡;软件侧以 T-Head SAIL 对接。特性清单介于 Hopper 与 Blackwell 之间:精度叙事偏 Blackwell,互联带宽量级更接近 Hopper H100。

1. 芯片结构

层级内容
板型OAM(满配)与 PCIe(规格表对照列为 M530 PCIe,配置更少)
OAM 满配10 CE,约 39 CU;TSM 合计约 9.75 MiB(每 CU 256 KiB)
精度FP8、FP4(with micro-scales)、INT8/16、FP16、BF16、INT32、FP32
缓存CU L1 → CE 共享 L2 → 片上 LLC → Memory Controller
HostPCIe 5.0 x16
片间ICN:8 端口 × 100 GB/s 双向 ≈ 800 GB/s
媒体4 视频解码 + 2 编码(OAM)+ 4 JPEG;服务多模态 / 视频流 AI
调度Host→CP 下发任务;GD 把 Thread Block 分到 CE/CU

OAM 与 PCIe 板型对照(白皮书图表 2-2):

特性真武 M890 OAM真武 M530 PCIe
CEs / 芯片108
CUs / 芯片3930
CUs / CE44
TSM / CU256 KiB256 KiB
TSM / 芯片9.75 MiB7.5 MiB
编码器20
解码器44
ICN 端口88

注意:表中一列是 M890 OAM,另一列标成 M530 PCIe——更像产品线对照,不宜当成「同一颗 M890 的两种封装」一字不差。

2. 白皮书强调的硬件特性

  1. 39 CU 并行算力(OAM 满配)。
  2. ECC + 大容量内存(定性描述):覆盖训练权重/数据与长序列 KV Cache。
  3. 三级缓存:过滤多数访存,降低数据移动与功耗。
  4. AIU:把复杂张量地址计算和加载从 ALU 卸掉;支持异步张量读进 TSM,与 TFU 做软件流水。文中称 GEMM 场景 TFU 利用率可达约 95%(例:M=1280, N=2048)。
  5. 大块 TSM(每 CU 256 KiB):藏访存延迟,喂饱张量核。
  6. PCIe 5.0:Host–Device 高速通道。
  7. MPS:最多 7 个用户进程上下文,按 CE 划分资源,做多租户 / 多任务。

微架构侧:CU 为自研 SIMT 核;指令分发到 VALU / TFU / SALU / SFU / LSU。对 FP16/BF16,Tensor 算力与 FP32 VALU 约为 32:1。

3. 片间扩展(ICN)

单卡 ─ICN─ OAM8(多环直连;集合通信可打满带宽;跨卡最多约 1 跳中转)
       │
       ├─ Scale-Out:经 PCIe Switch + RDMA/Eth(瓶颈易在 PCIe)
       │
       ├─ ICN64:自研 ICN Switch,全对称;任意两卡约 800 GB/s;多租户分区内不互相吃带宽
       │
       └─ ICN1024:两级 Switch,最多 1024 卡,约 3 跳可达,带自适应路由

通信语义:内存读写 + DMA,带纠错重传。软件侧集合通信库为 PCCL(all-reduce / all-gather / P2P 等,走 PCIe 或 ICN)。

4. 和 NVIDIA 哪一代更像?

先对齐三代「代际指纹」:

特征Ampere (A100)Hopper (H100)Blackwell (B200 等)
低精度主打BF16/FP16/TF32/INT8FP8 + Transformer EngineFP4/FP6 + microscaling,FP8 更强
异步张量搬数无 TMA 这一代叙事TMA延续并加强
Host 口PCIe 4PCIe 5PCIe 5
片间NVLink 3NVLink 4 ≈ 900 GB/s 量级NVLink 5(更高)

M890 公开特性对表:

M890更像谁说明
FP8 + FP4 (micro-scales)BlackwellAmpere 无原生 FP8;Hopper 有 FP8、无这套 FP4 microscale 主叙事
AIU 异步张量读 → TSMHopper+同类于 Hopper TMA:搬数/地址计算卸到专用单元
PCIe 5.0 x16Hopper / Blackwell高于 Ampere 的 PCIe 4
ICN ≈ 800 GB/s偏 Hopper H100 量级接近 NVLink 4 单卡对等带宽档,未体现 Blackwell NVLink 5 的跃升感
OAM + Switch 扩到 64/1024数据中心训推卡产品故事对齐 H100/B200 超节点
MPS(最多 7 上下文)CUDA MPS 路线NVIDIA 数据中心还强推 MIG;M890 另有虚拟化文档,本白皮书主写 MPS
结论:不像 Ampere。功能清单是 Hopper 打底 + Blackwell 精度点名——异步张量通路、PCIe5、~800GB/s 级互联偏 Hopper;FP4 + micro-scales 明确靠 Blackwell 特性集。白皮书未给算力/显存/能效,只能谈代际定位,不能宣称性能等于 H100 或 B200。

5. 软件侧(仅硬件笔记的边界)

完整软件栈名称为 T-Head SAIL(驱动、编译器 hgcc、acBLAS/acDNN、PCCL、Asight、推理引擎等)。训练态 PyTorch 走适配发行版 PyTorch-for-sail:API 尽量保留,设备名仍用 torch.cuda,构建时用 Sailify 将 CUDA 源码迁到 HGGC,再链 SAIL runtime。细节见开发者中心「AI 软件生态」文档,本文不展开。

6. 怎么读这篇白皮书