文档切分、向量召回、重排、评测，每一步都影响最终答案质量。RAG 落地的关键是「可评测地迭代」。
落地链路
- 切分：按语义块切分文档，保留标题层级，避免截断句子
- 向量化：选 embedding 模型（中文场景注意中英效果）
- 召回：向量 + 关键词混合检索，Top-K 适当放宽
- 重排（Rerank）：用重排模型精排，准确率提升最明显
- 生成：把检索结果拼进提示词，注明来源
评测方法
- 建 50-100 条真实问题的评测集，标注标准答案
- 指标：召回率（找没找到）、答案准确率、引用正确率
- 每次改切分/检索/提示词都跑一遍回归
- 上线后采样真实查询，持续补充评测集
常见坑
- 切分太碎导致上下文丢失，切分太大导致检索不准
- 只用向量检索忽略精确关键词匹配
- 不设重排环节，Top-5 质量差直接污染答案
- 引用没有锚点，用户无法核实
RAG 的生产力公式：切分 × 召回 × 重排 × 评测，四个环节一起优化，而不是只调提示词。