确定性测试:给概率系统装上"可控开关"
【摘要】 结论:Evals 回答"它够不够好",确定性测试回答"这条路对不对"。前者依赖真实模型的概率行为,后者通过替身(mock/录制回放)验证工程逻辑是否正确——两者互补,缺一不可。一、为什么要"确定性"你的 Agent 逻辑里有很多与模型能力无关的部分:工具调用链、参数拼装、状态流转、失败分支、格式解析。这些必须能稳定测试,不能每次都依赖真实模型的随机输出。否则一条失败分支可能永远测不到。二、三...
结论:Evals 回答"它够不够好",确定性测试回答"这条路对不对"。前者依赖真实模型的概率行为,后者通过替身(mock/录制回放)验证工程逻辑是否正确——两者互补,缺一不可。
一、为什么要"确定性"
你的 Agent 逻辑里有很多与模型能力无关的部分:工具调用链、参数拼装、状态流转、失败分支、格式解析。这些必须能稳定测试,不能每次都依赖真实模型的随机输出。否则一条失败分支可能永远测不到。
二、三种替身手段
| 手段 | 做法 | 适用 |
|---|---|---|
| Mock 模型 | 固定返回预设内容 | 测分支与异常路径 |
| 录制回放 | 录下真实交互,回放 | 测链路一致性 |
| 工具桩 | 工具返回固定结果 | 隔离外部依赖 |
用 Mock 可以精确构造"模型返回了畸形 JSON""工具超时"这类真实环境中难复现的场景。
三、要测什么
-
工具选择与参数拼装是否正确。
-
输出解析与校验是否健壮(畸形输入不崩)。
-
失败、重试、降级路径是否被正确触发。
-
状态在多轮之间是否正确传递。
-
上下文组装是否符合预期。
四、与 Evals 的边界
| 确定性测试 | Evals | |
|---|---|---|
| 关注 | 工程逻辑正确性 | 能力与质量 |
| 依赖 | 替身,确定 | 真实模型,概率 |
| 频率 | 每次提交 | 版本/定期 |
| 失败含义 | 代码 bug | 质量退化 |
先保证确定性测试全绿,再谈 Evals 分数。 逻辑都错了,评测分数没有意义。
五、常见误区
-
只测理想路径,异常分支从不覆盖;测试依赖真实模型导致不稳定;替身与真实差异过大,测了等于没测;只做 Evals 不做确定性测试。
六、检查单
-
[ ] 关键链路有确定性测试
-
[ ] 覆盖异常与失败分支(畸形输出、超时)
-
[ ] 工具依赖用桩隔离
-
[ ] 录制回放保证链路一致
-
[ ] 替身行为贴近真实,定期校准
-
[ ] 每次提交自动跑
-
[ ] 与 Evals 分工清晰,先绿后评
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)