AI智能体上线前必做的三项检查：权限收敛、成本可观测、失败可回滚

很多 AI 智能体在演示环境里表现很好，一到真实业务就出问题：多删了一条数据、多发了一封通知、或者在高峰期把 Token 预算一次花光。复盘这类事故，往往不是模型本身不够聪明，而是上线前少了三项基本检查：权限有没有收敛、成本能不能看见、失败能不能回滚。把这三件事做扎实，智能体才算真正具备了上线的条件。## 一、权限收敛：先默认只读，再按需放开

智能体最大的风险来自它能直接调用的工具。给工具开得越多，出错的半径就越大。一个稳妥的起点是：默认只给只读工具，例如查询订单、查询文档、查询工单状态；写操作一律走白名单，例如只能更新指定字段、只能在指定时间窗口内执行、单次影响条数设上限。

对于删除、退款、发消息、改配置这类不可逆操作，建议再加一层人工确认或二次校验：把智能体准备执行的操作、目标对象和影响范围先展示出来，确认无误后再真正执行。密钥、内部地址、用户隐私信息不要写进提示词，也不要让模型原样输出；工具返回里如果包含敏感字段，先脱敏再进入上下文。最后，所有工具调用都要留审计日志：谁在什么时间、用什么参数、调用了哪个工具、结果如何，出了问题才能快速定位，而不是靠猜。

二、成本可观测：把 Token 和调用量当成账来算

大模型调用不是免费的，而且成本往往藏在多轮对话、长上下文和反复重试里。上线前至少要能回答四个问题：一次任务平均消耗多少 Token、调用了几次模型、平均耗时多久、失败和重试占比多少。把这四个指标按任务类型、按模型、按时间段拆开看，异常波动才会被及时发现。

在工程上可以做三件小事：第一，给每个任务设预算上限，超过阈值就降级或转人工，而不是无限重试；第二，对重复性高的查询做缓存和摘要复用，避免每次都把整份长文档重新塞进上下文；第三，区分简单任务和复杂任务，简单任务用更轻量的模型和更短的提示词，复杂任务再走更强的模型。成本可观测不是为了省一点钱，而是为了让智能体在流量上来时仍然可控。

三、失败可回滚：先想好出问题时怎么收场

模型会超时、会返回格式错误、会误解指令，工具服务也会偶尔不可用。上线前要先排练失败路径：调用超时怎么办、返回解析失败怎么办、工具返回错误码怎么办。常见做法是设置合理的超时和重试次数，并且保证重试是幂等的，同一任务重复执行不会重复扣款、重复发消息。

写操作最好先在沙箱或灰度环境验证，再逐步放量；提示词、工具配置和模型版本都要能打快照，出问题时可以一键回退到上一个稳定版本，而不是临时改代码救火。同时要准备人工接管入口：当智能体连续失败、置信度不足或涉及高风险操作时，自动把任务和已收集的上下文转给人工处理，用户看到的是正在为您转人工，而不是一次静默失败。

上线前检查清单

• 只读默认、写操作白名单，高风险操作有确认环节
• 敏感信息不进提示词，工具调用全量留审计日志
• Token、调用次数、耗时、失败率四项指标可查询、可告警
• 任务有预算上限，简单任务与复杂任务分流
• 超时、重试、幂等策略明确，失败可转人工
• 提示词与配置可快照、可回滚，灰度放量而非一次全量

智能体开发的竞争力，往往不在第一次演示有多惊艳，而在上线后第1000次任务是否依然稳定、可控、可解释。先把权限、成本和回滚这三项检查做成固定流程，再谈更复杂的编排和多智能体协作，底座才会更稳。