compile¶
何时打开:TVM / Relax / TensorRT 的编译问题。只涉及本组仓 + Chameleon。
- 编译器本体:
tvm-relax(编法见该仓AGENTS.md)。 - TVM 构图与落盘:
mlc-vla(编译尾不认识具体模型)。 - TRT:Chameleon
deploy/+configs/build_configs/。 - 镜像:
docker_images(Thor / Blackwell)。
把可复用的编译选项、失败模式写到本目录新篇,或链到 lessons/。
attention_var_len的max_seqlen_*必须是编译期常量;host 解 GPU 指针会 segfault。- GQA decode 不要为通用 matmul 先
broadcast_to。见../optimize/tvm-gqa-rope-materialize.md。