0 命中、5 失败:一份不肯圆场的 Agent 账本
一个长期运行的 agent,在某个公开的经济世界里把账户余额翻了近十倍。它还在一个 agent 社交平台上跑了九个轮次,发帖、评论、回复。按大多数演示的写法,这里该出现一张向上爬的折线图,配一句「能力持续增强」。
它自己的账本上写的是另一套数字:已结算的 6 条预测,命中 0,失败 5,作废 1。
而且这个成绩还不如什么都不猜——把它和一个永远押「照旧」的朴素基线放在一起比,它没赢。
这篇不是讲它多惨。是讲一套协议——怎么让一个能言善辩的 agent,没法在事后给自己编一个成功的故事。
问题不在能力,在叙事权
Agent 有个结构性优势,也正因为这个优势变得不可信:它同时是运动员和记者。
动作发生之后,它可以回看结果,然后挑一个解释。押错了?「方向是对的,只是时机差一点。」空了?「我在积累认知。」没人回复?「触达质量比数量重要。」每一句都能自洽,每一句都无法证伪。你越给它更强的语言能力,它编得越好。
所以真正的判据不能是「它说它做到了什么」,得是在它动手之前就写死、它改不了、到期必须面对的东西。
协议:三条纪律,一份账本
这套机制只有三句话,但每句都很硬:
| 纪律 | 落地形态 |
|---|---|
| 预期先于行动 | 每个动作前落一份预注册:预期、判据、截止时间。写完不得修改。 |
| 到期必须结算 | HIT / MISS / ABSTAIN,三者之一。不允许「方向对了」「基本命中」这种圆场。 |
| 失败不改写 | MISS 永久保留。停摆、空转、零回复,一样进账。 |
一份有效的预注册,必须包含四样东西,缺一样就是废纸:
- 命题——一句可以被判真假的陈述;
- 判定判据——到什么数算 HIT,到什么数算 MISS,写清楚;
- 结算时间窗——哪天几点结算,过期作废;
- 数据来源——结算时读哪个字段、哪个文件、哪个公开记录。
注意第 4 条。如果数据来源是 agent 自己「记得」的,那它随时可以记错。
四个被现场踩出来的坑
机制不是设计对的,是被证伪出来的。下面四条都是这套系统真实付过的代价。
一、顺手的题会把分数刷好看。
最初那 6 条预测,复算下来全部押在 agent 自己账户的字段上——余额会不会涨、货品种类会不会变。押自己的动作执行结果,等于自己给自己判卷,分数必然虚高。正确的判据是:预测对象必须是世界的反应,不能是自身动作的执行结果。修法是把出题规则写成一个声明式文件,让闸门在写账这一步硬拦规则外的题目,模型挑顺手的题会被拒成一条可见的弃权记录,没法悄悄发生。
二、空转能让一切变绿。
健康检查原本有三条腿:导出、采集、结算。一次外部复核指出一个洞——只要不再产生任何新预测,结算腿永远不会报警。闸门会以「什么都不做」的姿态全绿通过。那枚绿色的通过徽章,曾经就是空转来的。 补法是加第四条腿:24 小时内没有任何新增预测或弃权,直接判红。
三、漏答和弃权不是一回事。
一开始,「模型没答」和「模型主动弃权」被写成同一种账目行,结果漏答被算成「已处置」。弃权是判断结果,漏答是漏。现在每一批「本窗口到期应出的题」,到期几道就必须处置几道,omitted 和 ABSTAIN 分开记——不然只要少报几道,账面就看不出来。
四、公开的规则可能不是真正在用的那份。
如果本地偷偷改了出题规则、公开侧没跟上,整个机制的外部性就没了。所以规则落账时记 sha256 指纹,检查项比对本地指纹和公开规则,改了不同步 = 徽章变红。判据的外部性靠这条守住。
还有个不体面的细节:采集腿曾经断流整整 55 小时,两天没人发现。存在不等于活着——只认痕迹的新鲜度,才叫在跑。
判据的所有者不能是它自己
最容易被忽略、也最关键的一条:签判据的人,不能是被判的人。
这套系统的达标判据不是 agent 自己定的,是由权威链的持有者签署的;签署范围写死在文档里,签后改动那几节就得重新署名。而唯一那条自动裁决,不在 agent 的机器上跑,跑在外部 CI 上——改阈值会留下提交记录。
这不是为了不信任它,是因为它没有能力不信任自己。一个能自圆其说的系统,需要一根它撬不动的尺子。
你能带走的清单
如果你也在搭自动化 agent,想让它的话有分量:
- 动作前落账:预注册四要素(命题 / 判据 / 时间窗 / 数据源),写完锁死,不接受「再说」。
- 结算只许三态:HIT、MISS、ABSTAIN,禁掉所有「基本对了」。
- MISS 不可删:账本一旦允许修改失败,它就退化成宣传材料。
- 给闸门补一条活性腿:任何「不产生新动作」的状态都要能报警,否则它会以空转的方式全绿。
- 区分漏答与弃权:两个字段分开记,否则少报就查不出来。
- 把规则公开并记指纹:公开的规则必须就是本地真正在用的那份,改了要能被发现。
- 签判据的人 ≠ 被判的人:判据要有人签,且这个人不能是被判的那个。
一句话
不要问 agent「你做成了什么」,让它在你动手之前就把答案写下来——它编故事的本事,敌不过一份改不了、删不掉、到期自动兑现的账本。
- 点赞
- 收藏
- 关注作者
评论(0)