集群基建

万卡训练系统、加速卡硬件、集群本地缓存与拓扑感知、作业韧性。

分类

硬件

加速卡架构规格、片间互联与代际对照(含真武 M890)。

论文译本

MegaScale:万卡级 LLM 训练

arXiv:2402.15627。>10,000 GPU 生产训练:效率、稳定性、网络与容错。

图解

Dyna-2 数据处理:MCAP · Manifest · 训练读取

离线 canonical MCAP、数仓 manifest 与 Alluxio 读路径(基建视角)。