跳转至

硬件

何时打开:选目标平台、dtype、或解释为什么本机 engine 不能直接上车。

平台 常见 tag 本组里怎么用 注意
Jetson Thor sm_110 tvm-relax CMAKE_CUDA_ARCHITECTURES=110;镜像 docker_images 产物绑定架构;FP8 / NVFP4。报延迟前:GPU 无 compute 进程、nvpmodel -m 0(MAXN)、jetson_clocks。见 lessons/thor-bench-maxn-idle.md
Jetson Orin sm_87 TVM / TRT 按该 arch 重编 INT8 路径多
本机 NVIDIA GPU 以 nvidia-smi 为准 Chameleon 对点、mlc-vla 编包 不要把本机 engine 当车端产物
CPU — TVM / 调试 few-core 预算单独记

产物(TRT engine、TVM model.so)按 本机 GPU 架构 编。换板必须重编或换预编译包。 编译环境细节见对应仓 AGENTS.md(tvm-relax / docker_images)。