多智能体任务的成本账:Token、重试与超时三笔开销怎么算
最近帮团队算了一笔账:一个跑通的 OKR 拆解 Agent,单次任务平均消耗约 2.5 万 Token。智能体任务的成本很少一次花完,大多漏在三个地方:Token、重试和超时。
一、Token:先算“每步单价”,再算“总步数”
多智能体任务的 Token 开销等于“每步输入输出”乘以“步数”,再乘以“并行分支数”。控制它的办法是少传上下文。
第一,只把下一步需要的结论传给下一个 Agent,不传整段历史;历史摘要后归档,控制在 200 字以内。第二,并行分支先收敛再展开:五个 Agent 各自出方案再合并,比各自带全量上下文跑三轮便宜一半以上。第三,给输出设上限:先给结论再给依据,超长就截断重问。
二、重试:重试不是免费的,要设“预算”
Agent 任务失败后自动重试很常见,但重试的成本常被忽略。一次失败的任务如果重试三次,等于花了四倍的钱。
可行的办法是给重试设三条规矩。第一,分失败类型:解析失败、工具超时、结果不合格,三类失败的重试策略不同。解析失败可以立即重试一次;工具超时要等一等再试;结果不合格不应该原样重试,而要换一个更明确的指令。第二,设重试预算:单任务最多重试两次,总 Token 超过预算就停下来转人工。第三,重试前先做幂等保护:写操作带上幂等键,避免重试造成重复下单、重复发券。
三、超时:超时是最贵的“沉默成本”
一个 Agent 卡住不返回,占住的不只是 Token,还有整个任务链的等待时间。上线前要给每一步设超时:单步 60 秒、整任务 10 分钟,超时就降级——返回已完成的部分结果,并标注哪些还没做。超时一次记一笔,连续超时两次就自动降级模型或缩小任务范围,既控制成本,也让任务“可预期”。
四、落地检查清单
上线一个多智能体任务前,对照这张表过一遍:
- 每步的输入上下文有没有瘦身,摘要是否归档;
- 输出有没有长度上限,结论是否在前;
- 三类失败的重试策略是否区分,重试预算是多少;
- 写操作是否带幂等键;
- 单步和整任务的超时时间是多少,超时后降级输出什么;
- 成本有没有按任务记账,能不能按天看到 Token 和重试次数。
智能体任务的成本管理,本质上是把“随便跑”变成“有预算地跑”。先把 Token、重试、超时三笔账算清楚,任务才敢放心地交给 Agent 跑。
- 点赞
- 收藏
- 关注作者
评论(0)