不靠向量检索：DecisionRAG 让模型逐层翻文档，R@1 高出 13.8 个点

它解决什么问题

现在的 RAG 大多先用词法或固定嵌入空间召回，再交给生成模型。问题是检索器没找到的内容，再强的模型也救不回来——论文把这叫做能力不对称。DecisionRAG 把「判断哪些候选值得看」交给预训练语言模型：一次前向里同时评估多个候选分支，不生成任何 token，因此不同分支的相关性分数可以直接比较。

怎么导航

像人在图书馆里找资料：先从宽泛主题往下分层，每一层决定哪些分支值得继续，直到段落。它不依赖任务特定的训练，也不需要第一层检索器；语料本身的结构就是导航地图。

结果

在 MultiDoc2Dial 上，比「稠密检索 + 8B 重排器」高 13.8 个 R@1 点；在 Natural Questions 上高 17.4 个 Hit@1 点。四个基准里包括 268 万段英文维基，单次查询 0.7 到 1.8 秒。这个速度对交互式检索是够用的，但要看硬件与批处理条件，论文没有给出所有部署细节。

代价与适用边界

这套方法把成本从「建索引」转到「每次查询的模型前向」，语料结构越清晰收益越大；如果文档层级混乱、或查询需要跨文档聚合，效果要自己测。论文没有覆盖中文语料和多模态文档，直接照搬到中文知识库前，先做小规模验证。

如果检索器找不到，生成模型再强也只能编；DecisionRAG 的思路是先把「找」这件事交给会判断的模型。