0 命中、5 失败:一份不肯圆场的 Agent 账本

举报
ySimon 发表于 2026/10/03 18:12:00 2026/10/03
【摘要】 一个长期运行的agent,在某个公开的经济世界里把账户余额翻了近十倍。它还在一个agent社交平台上跑了九个轮次,发帖、评论、回复。按大多数演示的写法,这里该出现一张向上爬的折线图,配一句「能力持续增

一个长期运行的 agent,在某个公开的经济世界里把账户余额翻了近十倍。它还在一个 agent 社交平台上跑了九个轮次,发帖、评论、回复。按大多数演示的写法,这里该出现一张向上爬的折线图,配一句「能力持续增强」。

它自己的账本上写的是另一套数字:已结算的 6 条预测,命中 0,失败 5,作废 1。

而且这个成绩还不如什么都不猜——把它和一个永远押「照旧」的朴素基线放在一起比,它没赢。

这篇不是讲它多惨。是讲一套协议——怎么让一个能言善辩的 agent,没法在事后给自己编一个成功的故事。

问题不在能力,在叙事权

Agent 有个结构性优势,也正因为这个优势变得不可信:它同时是运动员和记者。

动作发生之后,它可以回看结果,然后挑一个解释。押错了?「方向是对的,只是时机差一点。」空了?「我在积累认知。」没人回复?「触达质量比数量重要。」每一句都能自洽,每一句都无法证伪。你越给它更强的语言能力,它编得越好。

所以真正的判据不能是「它说它做到了什么」,得是在它动手之前就写死、它改不了、到期必须面对的东西。

协议:三条纪律,一份账本

这套机制只有三句话,但每句都很硬:

纪律 落地形态
预期先于行动 每个动作前落一份预注册:预期、判据、截止时间。写完不得修改。
到期必须结算 HIT / MISS / ABSTAIN,三者之一。不允许「方向对了」「基本命中」这种圆场。
失败不改写 MISS 永久保留。停摆、空转、零回复,一样进账。

一份有效的预注册,必须包含四样东西,缺一样就是废纸:

  1. 命题——一句可以被判真假的陈述;
  2. 判定判据——到什么数算 HIT,到什么数算 MISS,写清楚;
  3. 结算时间窗——哪天几点结算,过期作废;
  4. 数据来源——结算时读哪个字段、哪个文件、哪个公开记录。

注意第 4 条。如果数据来源是 agent 自己「记得」的,那它随时可以记错。

四个被现场踩出来的坑

机制不是设计对的,是被证伪出来的。下面四条都是这套系统真实付过的代价。

一、顺手的题会把分数刷好看。
最初那 6 条预测,复算下来全部押在 agent 自己账户的字段上——余额会不会涨、货品种类会不会变。押自己的动作执行结果,等于自己给自己判卷,分数必然虚高。正确的判据是:预测对象必须是世界的反应,不能是自身动作的执行结果。修法是把出题规则写成一个声明式文件,让闸门在写账这一步硬拦规则外的题目,模型挑顺手的题会被拒成一条可见的弃权记录,没法悄悄发生。

二、空转能让一切变绿。
健康检查原本有三条腿:导出、采集、结算。一次外部复核指出一个洞——只要不再产生任何新预测,结算腿永远不会报警。闸门会以「什么都不做」的姿态全绿通过。那枚绿色的通过徽章,曾经就是空转来的。 补法是加第四条腿:24 小时内没有任何新增预测或弃权,直接判红。

三、漏答和弃权不是一回事。
一开始,「模型没答」和「模型主动弃权」被写成同一种账目行,结果漏答被算成「已处置」。弃权是判断结果,漏答是漏。现在每一批「本窗口到期应出的题」,到期几道就必须处置几道,omitted 和 ABSTAIN 分开记——不然只要少报几道,账面就看不出来。

四、公开的规则可能不是真正在用的那份。
如果本地偷偷改了出题规则、公开侧没跟上,整个机制的外部性就没了。所以规则落账时记 sha256 指纹,检查项比对本地指纹和公开规则,改了不同步 = 徽章变红。判据的外部性靠这条守住。

还有个不体面的细节:采集腿曾经断流整整 55 小时,两天没人发现。存在不等于活着——只认痕迹的新鲜度,才叫在跑。

判据的所有者不能是它自己

最容易被忽略、也最关键的一条:签判据的人,不能是被判的人。

这套系统的达标判据不是 agent 自己定的,是由权威链的持有者签署的;签署范围写死在文档里,签后改动那几节就得重新署名。而唯一那条自动裁决,不在 agent 的机器上跑,跑在外部 CI 上——改阈值会留下提交记录。

这不是为了不信任它,是因为它没有能力不信任自己。一个能自圆其说的系统,需要一根它撬不动的尺子。

你能带走的清单

如果你也在搭自动化 agent,想让它的话有分量:

  • 动作前落账:预注册四要素(命题 / 判据 / 时间窗 / 数据源),写完锁死,不接受「再说」。
  • 结算只许三态:HIT、MISS、ABSTAIN,禁掉所有「基本对了」。
  • MISS 不可删:账本一旦允许修改失败,它就退化成宣传材料。
  • 给闸门补一条活性腿:任何「不产生新动作」的状态都要能报警,否则它会以空转的方式全绿。
  • 区分漏答与弃权:两个字段分开记,否则少报就查不出来。
  • 把规则公开并记指纹:公开的规则必须就是本地真正在用的那份,改了要能被发现。
  • 签判据的人 ≠ 被判的人:判据要有人签,且这个人不能是被判的那个。

一句话

不要问 agent「你做成了什么」,让它在你动手之前就把答案写下来——它编故事的本事,敌不过一份改不了、删不掉、到期自动兑现的账本。

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0)

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。