硬件¶
何时打开:选目标平台、dtype、或解释为什么本机 engine 不能直接上车。
| 平台 | 常见 tag | 本组里怎么用 | 注意 |
|---|---|---|---|
| Jetson Thor | sm_110 | tvm-relax CMAKE_CUDA_ARCHITECTURES=110;镜像 docker_images |
产物绑定架构;FP8 / NVFP4。报延迟前:GPU 无 compute 进程、nvpmodel -m 0(MAXN)、jetson_clocks。见 lessons/thor-bench-maxn-idle.md |
| Jetson Orin | sm_87 | TVM / TRT 按该 arch 重编 | INT8 路径多 |
| 本机 NVIDIA GPU | 以 nvidia-smi 为准 |
Chameleon 对点、mlc-vla 编包 | 不要把本机 engine 当车端产物 |
| CPU | — | TVM / 调试 | few-core 预算单独记 |
产物(TRT engine、TVM model.so)按 本机 GPU 架构 编。换板必须重编或换预编译包。
编译环境细节见对应仓 AGENTS.md(tvm-relax / docker_images)。