AI花钱的方式变了：推理首次超过训练

10月9日，国债票面利率定在1.37%。同一天，Gartner的一份报告给AI行业算了一笔更大的账：2026年全球AI推理支出将达到233亿美元，首次超过训练支出的190亿美元。

这个数字交叉不太起眼，但它标记的拐点很硬。

训练为王的时代结束了

过去三年，AI行业的钱主要花在"教模型说话"上。买卡、堆集群、跑预训练，动辄数亿美元一次。Meta训练Llama 4花了上亿美元，OpenAI的GPT系列训练成本更高。训练算力一度占AI总投入的七成以上。

但2026年，天平翻了。Gartner数据显示，AI优化型IaaS支出中55%将用于推理场景，2027年这个比例还会继续涨。IDC的数据更激进——中国市场推理算力年复合增速约190%，训练只有50%出头。到2026年底，全国推理算力占AI算力总负载的比重将达到70.5%。

翻译成大白话：AI从"上学"阶段进入了"上班"阶段。

为什么是现在

推理支出暴涨的直接原因，是AI Agent开始大规模部署。

ChatGPT单次对话的推理成本以美分计，但日活过亿后每天烧掉百万美元量级。当AI从"偶尔问问"变成"持续运行"——Agent需要7×24小时在线、多步骤自主决策、反复调用模型——推理算力的消耗就指数级上升了。

Gartner报告里用了一个说法：“多步骤自主决策系统的普及使推理环节取代训练成为主要算力消耗场景。” 这话不绕，意思就是：模型训好了，现在要跑起来干活了。

具体场景在哪？代码生成、客服对话、RAG检索增强、多模态推理、Agent工作流编排——这些都需要模型实时响应，每一次调用都在烧推理算力。

中国市场的特殊信号

国内的数据更值得注意。

截至2026年6月底，全国智能算力总规模持续扩张，但结构在变。推理算力增速是训练的近4倍。这意味着国内的智算中心建设重心正在从"建训练集群"转向"建推理基础设施"。

对算力供应商来说，推理服务器的采购逻辑和训练完全不同。训练集群追求极致的GPU互联带宽，几万张卡连成一个超大集群；推理则更分散，可以按区域、按场景部署中小规模集群，靠近用户端降低延迟。

这直接影响芯片选型。训练端几乎被英伟达H100/B200垄断，但推理端的选择面宽得多——国产芯片、专用ASIC、甚至边缘NPU都能分一杯羹。壁仞科技10月8日在港股配售1.3亿股融资，GPU厂商们都在抢推理市场的入场券。

拐点之后

推理支出超过训练，不意味着训练不重要了。新模型还在迭代，GPT-7、Claude 5的训练成本只会更高。但行业投入的结构变了——训练是少数巨头的游戏，推理是所有人的战场。

对开发者来说，这个变化很实际：模型API的推理价格会继续降。OpenAI、Anthropic、Google今年都在砍推理成本，国内 DeepSeek、通义、智谱也在跟进。Token越来越便宜，意味着基于大模型的应用层创业窗口在打开，而不是关闭。

Gartner还预测，2026年全球AI总支出将达2.67万亿美元，年增49.5%。这个大盘子里，推理占的份额只会越来越大。

AI行业的故事，正在从"谁的模型最强"变成"谁的推理最便宜、最稳、最快"。这个转变，比又一个新模型发布，重要得多。