跳转至

compile

何时打开:TVM / Relax / TensorRT 的编译问题。只涉及本组仓 + Chameleon。

  • 编译器本体:tvm-relax(编法见该仓 AGENTS.md)。
  • TVM 构图与落盘:mlc-vla(编译尾不认识具体模型)。
  • TRT:Chameleon deploy/ + configs/build_configs/。
  • 镜像:docker_images(Thor / Blackwell)。

把可复用的编译选项、失败模式写到本目录新篇,或链到 lessons/。

  • attention_var_len 的 max_seqlen_* 必须是编译期常量;host 解 GPU 指针会 segfault。
  • GQA decode 不要为通用 matmul 先 broadcast_to。见 ../optimize/tvm-gqa-rope-materialize.md。