PatternBloom:把检索的单位从“读什么”换成“怎么推理”,Agentic RAG 的一个结构性转向
NeurIPS 2026 接收的 PatternBloom 提出了一个在 Agentic RAG 领域值得认真对待的判断:在现有的 RL 训练 Agent 做检索增强生成的方法里,通过检索内容(段落、知识图谱片段、超边)得到的推理路线,从来没有离开过语言模型的隐藏状态,这把陈述性知识和在同一逻辑类型的查询中反复出现的程序性知识混在了一起;结果是,纯内容方法随着推理深度增加会出现平台期。
PatternBloom 的解法是把检索的单位从“内容”(读什么)换成“逻辑”(怎么推理)。第一阶段 RL 用冻结 oracle 的信息增益给 Agent 构建的证据图打分,这个奖励叫 Information-Density Reward(IDR),是一个按大小归一化的互信息代理;高奖励轨迹被蒸馏进一个 Graph Pattern Memory(GPM),里面是类型抽象化的推理骨架;第二阶段 RL 用 Pattern-Augmented Reward(PAR)把策略和记忆耦合起来,把程序性推理变成可学习的、外化的结构先验。一个 7B 的 PatternBloom 在 Avg-OOD EM 上超过基线,而且增益随推理深度累积,原因正是程序性知识一旦被蒸馏,就会被复用,而不是在每次查询时重新推导。
这个工作的工程含义比一个基准提升更具体。Agentic RAG 的常见形态是“Agent 决定检索什么,读回来,继续推理”。PatternBloom 指出的问题是:在这种形态里,Agent 每次都在重新发现“这类问题应该怎么拆解”,而拆解方式是可以在查询之间复用的。把推理骨架外化成可检索的记忆,而不是埋在隐藏状态里,意味着同一个逻辑类型的查询不需要从零开始探索。这和“检索更多文档”是不同的杠杆:后者增加的是陈述性知识的供给,前者减少的是程序性知识的重复发现。
一个务实的判断是:如果你的 Agentic RAG 系统在简单查询上表现良好、但随着推理步骤增加而退化,问题可能不在检索内容不够,而在推理路径没有被复用。PatternBloom 的 GPM 和两阶段 RL 是一个研究原型,但“把推理模式本身当作可检索、可复用的资产”这个方向,对于任何需要处理多跳、多步推理的 RAG 系统都有参考价值。先看你的失败案例是“缺信息”还是“推理路径每次都在重走”,再决定投入检索还是投入推理模式的外化。
- 点赞
- 收藏
- 关注作者
评论(0)