跳转至

AGENTS.md — aiinfer-kb

本仓是 ai_infer 推理栈知识库,给 Agent 用。打开本仓或任务涉及编译 / 量化 / 优化 / 部署 / 推理时读这里,不要通读全库。

覆盖范围:GitLab 组 ad/project_r_system/ai_infer 内的仓,以及精度对点入口 Chameleon。组外其它仓不写进本库。

怎么用

  1. 用 INDEX.md 把任务映射到一篇文档,只打开那一篇(及它链出去的原文)。
  2. 实现细节以业务仓当前代码为准。本仓与代码冲突时,先读代码,再提议改本仓。
  3. 新结论能复用就写入 decisions/ 或 lessons/,不要只留在对话里。
  4. 写代码的流程(先测、版权头、测试目录)走 profile,不在本仓复制。

职责边界(先看这个再改仓)

层 仓 做什么
评测 / 编排 / 多后端 Chameleon 精度对点入口;eval / compare / bench
TVM 编译 mlc-vla Relax 构图、量化、落 artifact;不跑车端
编译器 tvm-relax 编译器与 runtime
运行时执行 UniRT 加载预编译产物,Relax VM,不参与编译
Session / 分词 ApexInfer 对拍、dump、Python Session
编译镜像 docker_images Thor / Blackwell 镜像
规则包 profile Cursor .cursor/rules
机器人本体 robot-kb 真机 / 控制,不写推理栈

更细的仓表见 map/repos.md,流水线见 map/pipeline.md。

写新篇

  • 一篇一个问题,标题能被 INDEX.md 检索到。
  • 文首用 3~8 行说明「何时打开这篇」。
  • 只链本组仓或 Chameleon,不粘贴会过期的大段代码。
  • 已拍板的选型进 decisions/,操作步骤进 playbooks/,坑进 lessons/。