智能体上下文膨胀的应对:摘要、归档与再取回

举报
yd_226313479 发表于 2026/11/04 10:37:46 2026/11/04
【摘要】 长对话跑久了,智能体最先出问题的往往不是能力,而是上下文。历史越攒越多,关键信息被淹没在闲聊和中间结果里,模型开始答非所问,或者把早已否决的方案又捡回来。这不是模型变笨了,是上下文膨胀了。对策不复杂,核心就三招:摘要、归档、再取回,而且要把它们做成习惯,而不是等到出问题才抢救。第一招是定期摘要。不要等上下文快满了才动手,任务每推进一个阶段就做一次小结:已确认的结论是什么、待办还剩哪几项、被否...

长对话跑久了,智能体最先出问题的往往不是能力,而是上下文。历史越攒越多,关键信息被淹没在闲聊和中间结果里,模型开始答非所问,或者把早已否决的方案又捡回来。这不是模型变笨了,是上下文膨胀了。对策不复杂,核心就三招:摘要、归档、再取回,而且要把它们做成习惯,而不是等到出问题才抢救。

第一招是定期摘要。不要等上下文快满了才动手,任务每推进一个阶段就做一次小结:已确认的结论是什么、待办还剩哪几项、被否决的方案为什么否决。摘要要短,只留结论和依据,过程细节一律砍掉。我自己的做法是,每完成一个子任务就让智能体先输出一段三到五行的阶段小结,再继续下一步。这样即使对话很长,模型每次回看的也是干净的结论,而不是几千字的流水账。

第二招是归档,而不是删除。有些中间结果现在用不上,但之后可能要复查,比如某次工具调用返回的原始数据、某个被否决方案的测试记录。直接删掉,复查时就得重跑;全留在上下文里,又会挤占注意力。折中的办法是把它们写到任务笔记或文件里,只在上下文中留一句话索引:结果存在哪里、关键数字是多少。需要时再取回,不需要时不占位置。归档的关键是索引要写清楚,否则存了也等于丢了。

第三招是再取回要有选择。取回不是把归档全文倒回上下文,而是只取回当前步骤真正需要的那一段。比如复查某个数字,就只取那一行记录;复核某个决策,就只取当时的结论和理由。取回前先问一句:这一步到底需要什么信息?答不上来,就说明还没想清楚该取什么,宁可先不取。

这三招合起来,其实是在帮智能体维持一个可用的工作记忆:摘要保证它记得结论,归档保证它丢不了证据,再取回保证它用的时候拿得到。上下文不是越大越好,而是越干净越好用。把摘要、归档、再取回做成每个长任务的固定动作,智能体跑长任务时的走神和反复会少很多。

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0)

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。