大模型输出的“隐性结构塌缩”问题及对策

一个你肯定见过的现象

让GPT-5写一份“产品竞品分析”，它给你：

• 背景介绍
• 竞品A功能列表
• 竞品B功能列表
• 对比表格
• 总结与建议

结构完整、逻辑清晰、语言流畅。但读完你会觉得：这是任何一个实习生花半小时都能写出来的东西。

这不是模型“笨”。模型的能力上限远高于此。真正的问题是：模型在没有强约束的情况下，会自发坍缩到“最安全、最平均、训练语料中最常见”的输出结构上。

我把这称为隐性结构塌缩。

为什么会发生塌缩？

大模型的本质是概率分布的下一个token预测。当指令不够“尖锐”时，模型在输出空间的搜索会自然偏向高概率区域：

• 高频结构（总-分-总、对比表格、SWOT）
• 中性措辞（“值得注意的是”“总体而言”）
• 安全结论（“各有优劣”“根据实际情况”）

这不是“幻觉”，这是概率的本能。模型不是在“思考”，而是在做高维度的完形填空。你给的空格越多，它填进去的就越平均。

你得到平庸输出，不是模型不行，是你对“结构”的约束太弱。

破解方法：强制低概率结构

让模型产出高质量内容的本质，不是“把要求写详细”，而是人为压低常见结构的概率，强制模型探索高成本、低频率的表达方式。

方法一：逆向结构约束

不要告诉模型“怎么写”，要告诉它“不准怎么写”。

逆向约束的本质是剪枝概率空间。你剪掉的不只是“不好的写法”，而是最常见的、最安全的那些结构路径。

方法二：固定输出格式强制非均匀分布

自由文本是最容易塌缩的形式。强制结构化输出可以打破这种惯性。

不是这样：

“请分析三个关键风险”

而是这样：

按以下JSON结构输出，每个value不得超过20个token：
{
“最被高估的风险”: “”,
“最被低估的风险”: “”,
“最反直觉的风险”: “”,
“上述三个风险中唯一值得在Q3投入资源的”: “”
}

为什么有效？因为JSON结构强迫模型跳出“段落式思维”。每个字段的长度限制迫使模型做信息蒸馏，最后一个字段的互斥选择强迫模型做判断而非罗列。

方法三：锚定极端案例

模型输出平庸，往往是因为它在“平均情况”上做插值。给它一个极端锚点，可以显著拉高输出分布的方差。

平庸指令：

“分析特斯拉的竞争策略”

锚定指令：

先阅读以下两种极端分析框架：
框架X（极度乐观）：认为特斯拉的FSD会在18个月内被中国车企反超
框架Y（极度悲观）：认为特斯拉的品牌溢价将在2026年归零

现在，在反驳上述两个框架的基础上，给出你的第三条路径。

模型必须先“消化”两个极端立场，再从中突围。这迫使它不能直接输出训练语料中的主流叙事。

一个完整示例对照

任务：让模型为一款SaaS产品写增长建议

普通提示词（会塌缩）：

“请给一款B2B SaaS产品写5条增长建议，要求可落地”

模型输出（典型塌缩结果）：

1. 优化SEO内容
2. 加强客户成功团队
3. 推出免费试用
4. 建立推荐计划
5. 参加行业展会

反塌缩提示词：

任务约束：

1. 禁止使用“SEO”“免费试用”“推荐计划”“展会”“客户成功”这五个词
2. 每一条建议必须同时包含：一个数据指标 + 一个具体时间节点 + 一个明确的成本估算
3. 强制格式：每条建议以“反共识的是：……”开头
4. 最后必须删除你认为最“政治正确”的那一条

输出会完全不同——更尖锐、更具体、更反常规。甚至可能出错，但出错的方向也比平庸有价值。

实操建议

下次你写提示词时，问自己三个问题：

1. 我有没有显式禁止最常用的三种结构？（列表、总分总、对比表）
2. 我有没有用格式或长度限制强迫模型放弃“段落式安全区”？
3. 我有没有给模型一个极端锚点，让它无法滑向平均输出？

如果你三个回答都是“没有”，那么你得到的平庸输出，责任在你，不在模型。