全国产算力训练的 293B MoE:讯飞星火 X2.6 把训练时间从 4.5 个月压到 1.2 个月
10 月 22 日,科大讯飞在 1024 开发者节上发了星火 X2.6。
参数不算行业最大(293B 总参 / 30B 激活),上下文也不算最长(百万 token 已经有几家了)。这场发布真正值得看的是另一件事:
它把「国产算力到底能不能训练出有竞争力的模型」这个问题,拿出来做了公开回答。
回答的方式很实在——不是喊口号,而是把训练效率、推理缓存、端侧模型、API 定价四件事同时摊在桌上,让你自己算。
一、先看数据:一份完整的账
| 维度 | 数据 | 说明 |
|---|---|---|
| 架构 | 293-A30B MoE | 293B 总参,每 token 激活 30B |
| 上下文 | 100 万 token | 长文档/长代码库场景 |
| 训练算力 | 全国产算力(飞星二号万卡集群) | 关键词是「训练」不是「推理」 |
| 训练效率 | 2000B 数据、256K 长度 → 4.5 个月降到 1.2 个月 | 效率约 4 倍 |
| 推理效率 | 国产芯片上达到优化前的 4.5 倍 | 三项技术叠加 |
| KV Cache 命中率 | 63% → 95.7% | 四层 KV Cache 架构 |
| 端云路由准确率 | 81.2% → 96.1% | 判断任务该在端上还是云上跑 |
| 端侧模型 | X2.6-4B,已开源 | 上一代 X2.5-4B 累计下载 256 万次 |
| 发布节奏 | 训练只用了 2-3 个月 | 刘庆峰现场说法 |
API 定价(这是最直接的竞争力)
| 项目 | 价格(元 / 百万 tokens) |
|---|---|
| 输入(缓存未命中) | 0.9 |
| 输入(缓存命中) | 0.08 |
| 输出 | 3.6 |
官方说法是「输入缓存未命中、输出价格比 DeepSeek-V4.1-Flash-1017 更低」。
注意那个 0.08 元 的缓存命中价——它比未命中的 0.9 元低了 11 倍。这个价差不是随手定的,它是在明示一件事:请把重复的长上下文用起来,我按成本给你让利。 对做 Agent、知识库问答、长文档处理的团队,这个数字比跑分重要得多。
基准成绩(厂商自测)
| 测试集 | 表现 |
|---|---|
| SWE Pro | 第一 |
| SWE Multilingual | 第一 |
| SWE Verified | 仅次于 DeepSeek-V4.1-Flash-1017 |
| MCP-Atlas(通用工具调用) | 第一梯队 |
| AA-LCR v1.1(长上下文推理) | 与 MiniMax M3 持平 |
| 端侧 X2.6-4B | 在信息搜索问答、办公文档、日程管理、本地表格、跨工具协同、多轮工具调用、复杂知识搜索上均超前代及 Qwen3.5-4B / Gemma4-E4B / Qwen3.5-9B |
代码能力(SWE 系列)拿到第一/第二,这是个明确信号:国产算力训练出来的模型,在最吃工程能力的编码赛道已经能进第一梯队。
按惯例提醒:以上均为讯飞自测数据,第三方复现才是终局裁判。
二、真正的技术难点:在显存和带宽受限的芯片上训模型
这一节是本文的核心。因为「全国产算力训练」这句话的分量,全在这三个字上——训练。
推理已经很成熟了,各家都在国产卡上跑推理。但训练不一样:
| 推理 | 训练 | |
|---|---|---|
| 显存占用 | 权重 + KV Cache | 权重 + 梯度 + 优化器状态(通常是权重的 4-8 倍) |
| 通信模式 | 主要在前向 | 前向 + 反向 + 梯度同步,通信量倍增 |
| 容错要求 | 单请求失败可重试 | 一次跑几十天,中途挂掉代价巨大 |
| 精度要求 | 可量化压缩 | 对数值稳定性极敏感 |
国产芯片相对受限的正是显存容量与带宽。所以「能不能训」的答案,取决于你能不能把这两项劣势用工程手段补回来。
讯飞这次给了两个具体方案,都值得记下来。
方案 A:长程任务动态并行训练(训练侧)
要解决的问题:长上下文训练(比如 256K 长度)时,激活值显存占用随序列长度线性甚至超线性增长。传统做法是固定并行策略(固定 TP/PP/DP 切分),但长序列和短序列的最优切分方式完全不同——用一套固定配置,短序列浪费卡,长序列爆显存。
做法:根据任务长度动态分配计算资源,自适应调整并行策略。
效果:飞星二号万卡集群训练 2000B 规模、256K 长度的数据,4.5 个月 → 1.2 个月,效率约 4 倍。
这里最值得注意的是那个「2-3 个月训出 X2.6」的说法——如果属实,意味着这套动态并行已经不只是一个优化技巧,而是把训练周期本身缩短了一个量级,直接改变了模型迭代的节奏。迭代快一倍,等于同样的时间里能多试几版。
方案 B:三项推理侧技术(推理侧)
| 技术 | 解决什么问题 | 手段 |
|---|---|---|
| 自适应存算协同推理 | 长上下文下显存不够、得频繁换入换出 | 在存与算之间动态调度,减少数据搬运 |
| 异构分布式推理 | 单机装不下、跨机通信开销大 | 把推理分散到异构集群,按能力分配负载 |
| 四层 KV Cache 架构 | 缓存命中率低,重复计算浪费算力 | 业内首个适配全国产硬件的四层 KV Cache |
那个四层 KV Cache 是这次最有工程含量的部分。它的成果直接反映在两个数字上:
- 推理效率:优化前的 4.5 倍
- KV Cache 命中率:63% → 95.7%
为什么「缓存命中率」能带来这么大幅度的效率提升?因为长上下文场景的成本结构是这样的:
一次请求的总计算量
= 新输入的计算(无法避免)
+ 历史上下文的重复计算(★ 缓存能吃掉的部分)
上下文越长、重复度越高 → 第二项占比越大 → 缓存的价值越大
命中率从 63% 提到 95.7%,意味着原本有 37% 的长上下文需要重算,现在只剩 4.3%。在百万上下文场景下,这一项省下来的算力可能比模型本身优化带来的还多。
顺带一个观察:昨天 DeepSeek 开源的 DeepInfer 里也有分层 KV Cache(内存 SWA Cache + 3FS Block Cache),今天讯飞给了四层国产硬件架构,命中率 95.7%。
两家不约而同把 KV Cache 当成核心战场,这不是巧合。 它说明行业的共识已经形成:长上下文时代的成本瓶颈,不在模型算力,在缓存效率。
三、端云一体:60/30/10 的任务分配,和 96.1% 的路由准确率
这次 X2.6 的差异化定位是「端云一体」。刘庆峰给的分配比例是:
| 场景 | 占比 | 特点 |
|---|---|---|
| 纯端侧完成 | 约 60% | 数据不出设备,零推理成本 |
| 端云协同 | 约 30% | 端侧先脱敏,云端处理,端侧还原 |
| 纯云端 | 约 10% | 最复杂的任务 |
这个比例如果成立,对成本结构的冲击是结构性的——六成任务不花钱。
但整套设计有一个致命前提:路由必须准。 路由判错的代价是双向的:该端办的送云端 → 白花钱;该云办的压在端上 → 答不对。
所以真正有技术含量的是那个数字:
端云路由准确率:81.2% → 96.1%
怎么做到的?讯飞用的是「基于评语模型的端云路由协同训练机制」。
翻译成人话:不是手写规则判断「这个问题该谁做」,而是训一个会打分的模型,让它学会评价「这个任务交给端侧/云端/协同,哪个结果更好」,然后用这个评价信号反向去训练路由决策。
这个思路值得单独拎出来说,因为它绕开了一个经典难题:
| 传统做法 | 问题 |
|---|---|
| 手写规则路由(按长度/关键词/领域) | 覆盖不全,边界情况无穷多 |
| 用一个大模型做路由 | 路由本身就要花钱、要延迟,得不偿失 |
| 用评语模型训路由(本次做法) | 用「结果好坏」当监督信号,让路由自己学出判断标准 |
隐私设计:脱敏发生在端侧
端云协同的流程值得单独看,因为它决定了这套架构能不能卖给对数据敏感的行业:
① 端侧模型先梳理本地数据(周报、邮件、经营数据)
↓
② 端侧模型做脱敏处理 ← 关键:脱敏在本地完成,明文不出设备
↓
③ 发起协作申请,脱敏后的内容上云
↓
④ 云端模型处理后返回
↓
⑤ 端侧模型把脱敏信息还原,生成完整内容
现场演示的场景是一个创业公司总经理让 AStudio 在不联网的情况下查看各大区周报和邮件、分析经营情况,输出可视化表格、三项待办、风险提示,并附上对应邮件链接。
对教育、医疗、法律、政法这类行业,这套「端侧脱敏 + 云端协同 + 端侧还原」的流程,比任何跑分都更有说服力——它是能不能进这个市场的前置条件。
四、端侧 4B:一个被低估的战场
讯飞把 X2.6-4B 开源了。这个选择值得单独说一句,因为端侧模型的竞争逻辑跟云端完全不同。
| 维度 | 云端大模型 | 端侧 4B |
|---|---|---|
| 竞争点 | 能力上限 | 能装进多少设备 |
| 部署环境 | 数据中心 | 机器人、车机、AI PC、手机 |
| 商业模式 | 按 token 收费 | 免费 + 带动硬件/生态 |
| 关键指标 | 跑分 | 下载量、装机量 |
上一代 X2.5-4B 从 9 月 1 日开源到现在,下载 256 万次,全球端侧模型前四。这个数字比很多云端模型的调用量更能说明生态位。
这次 X2.6-4B 的训练方法也有个细节值得记:
端云一体训练技术:采用端侧模型能力感知的自适应迭代后训练算法,根据端侧能力动态选择教师模型、调整训练比重。
这是知识蒸馏的一个变体。传统蒸馏是「固定用最强的教师模型」,但问题在于——教师的强项未必是学生的短板。端侧 4B 的瓶颈在特定能力(工具调用、长文本),用一个「全面强但风格不匹配」的教师,蒸馏效率不高。
改成按端侧模型的实际能力表现动态挑教师,等于每次蒸馏都针对当前最弱的那一项。这个思路可以迁移到任何「大模型教小模型」的场景。
五、一个必须记录的坦诚:差距还在
这场发布会里,我认为最值得引用的一句话不是任何技术指标,而是刘庆峰的这句:
国产算力对标全球仍有两代左右的差距,但差距会逐步缩小。
在自家产品发布会上公开承认差距,这在国产模型发布会里不常见。
这句话的价值在于它给了整场发布一个正确的解读框架:X2.6 证明的不是「国产算力已经追平」,而是「国产算力上的工程优化,已经能把差距压缩到产品可用的程度」。
这两件事完全不同:
- 前者是硬件问题,短期内解决不了
- 后者是软件问题,可以靠算法和工程一点点啃
而这次拿出来的所有数字——4 倍训练效率、4.5 倍推理效率、63%→95.7% 缓存命中、81.2%→96.1% 路由准确率——全部是软件层面的收益。也就是说,它们是在「硬件差两代」这个既定前提下,用工程手段抢回来的。
这个思路对所有做国产化适配的团队都适用:硬件的账算不过,就先在软件栈上把每一分算力榨干。
六、三条可以带走的判断
判断一:KV Cache 命中率正在成为比跑分更重要的选型指标
讯飞 95.7%、DeepSeek 96%——两家头部不约而同把命中率做到 95% 以上,而且都把它当成核心卖点。
对你的实际意义:下次选模型,别只问「跑分多少」,问「缓存命中怎么算钱」。
一个跑分高 5 分但缓存命中率只有 60% 的模型,在长上下文 Agent 场景里,真实成本可能比便宜模型贵一倍以上。因为你的账单里,重复上下文的比重往往远大于新输入。
判断二:端云路由是一个被忽视的架构层
大多数团队做 AI 应用时,架构只有两种:纯云、纯端。中间那层「按任务决定在哪跑」几乎没人认真做。
但 60/30/10 这个分配揭示了它的价值:如果能准确判断 60% 的任务不需要上云,你的推理成本直接砍掉一大半。
而做这件事的门槛,比想象中低——不需要自研芯片,只需要一个可靠的路由判断(哪怕先用关键词规则起步,再逐步训评语模型)。成本优化的性价比,在路由层往往高于模型层。
判断三:2026 年的国产模型竞争,已经从「刷分」转到「算账」
看这次发布的组合拳:
- 训练效率(迭代速度 → 抢时间窗口)
- 推理效率(单位成本 → 抢价格空间)
- 缓存命中(长上下文成本 → 抢 Agent 场景)
- 端侧开源(装机量 → 抢生态位)
- 定价(0.9/0.08/3.6 → 直接对标友商)
没有一项是在比「谁更聪明」,全部是在比「谁的成本结构更好」。
这个转向对整个行业是好事——因为能力差距在缩小,而成本差距会直接决定谁能活下来。
七、一句话总结
星火 X2.6 最值得记的不是 293B,也不是百万上下文,而是它给出的这个证明方式:
在硬件落后两代的既定条件下,用动态并行、四层 KV Cache、评语模型路由这几项纯工程手段,把训练周期砍掉 3/4、推理效率提到 4.5 倍、缓存命中做到 95.7%。
如果这套方法可复现,那么「国产算力能不能训出好模型」这个问题,答案已经不再是「等硬件追上来」,而是「先看软件能把现有硬件榨到多干」。
- 点赞
- 收藏
- 关注作者
评论(0)