首页 / AI System Performance

AI System Performance

先选一类教程。进入后只看该类内容,左侧也只有该类目录。

教程

Modern GPU Programming for MLSys

Blackwell 高性能 kernel 教材中文镜像。已译前四篇:执行模型、Kernel 为什么快、数据 Layout、Tensor Core layout 演进。

论文

高性能算子

Attention 与线性代数 kernel 论文中文译本。已收入 Blackwell 上固定移位 Softmax 的 FlashAttention。

笔记

TensorRT

Myelin、plugin、量化与性能优化。

笔记

PyTorch

compile、backend 与训练/推理路径。

笔记

CUTLASS

CUTLASS / CuTe 与线性代数 kernel。

笔记

AI Infra

数据管线、训练 manifest、集群缓存、分布式优化器与作业韧性;含模型训练分类。

其他笔记 · 0 篇