pi05¶
何时打开:PaliGemma + action expert、LIBERO / G1、多后端对拍。
后端都在 Chameleon 接线,实现落本组仓:
| 后端 | 形态 | 入口 |
|---|---|---|
| PT 参考 | Chameleon PolicyRunner | policy_runner: openpi / genie |
| TRT | vit + llm + denoise | trt_only / pt_trt_compare |
| TVM | mlc-vla 产物 + tvm-relax runtime | tvm_only / pt_tvm_compare |
| ApexInfer | Session / dump | Chameleon apexinfer runner |
易错:state 归一化后、pad 前才离散化;state_prompt_mode 离线评测用 fixed。
外部手写路径对照(不在组内维护):flashrt-opt-map.md。
NVIDIA Thor 官方 LLM 栈对照(不换交付):trt-edge-llm-opt-map.md。
Thor 小 M GEMM 必须按 SM 数分档:lessons/thor-sm-count-tile-dispatch.md。
精度坑:lessons/pi05-flashrt-quant-dont.md。
prefill fused + pad mask:lessons/cutlass-attention-bias-not-flash.md。
TVM vs TRT 当前缺口:lessons/pi05-tvm-trt-gap-nsys.md。
TVM FP8 权重必须静态、G1-D down_proj 可过门、还不是 TC:lessons/pi05-tvm-fp8-static-not-tc.md。
denoise GQA/RoPE 布局税:domains/optimize/tvm-gqa-rope-materialize.md。