全国产算力训练的 293B MoE:讯飞星火 X2.6 把训练时间从 4.5 个月压到 1.2 个月

举报
HugoLiao 发表于 2026/10/23 20:33:27 2026/10/23
【摘要】 10 月 22 日,科大讯飞在 1024 开发者节上发了星火 X2.6。参数不算行业最大(293B 总参 / 30B 激活),上下文也不算最长(百万 token 已经有几家了)。这场发布真正值得看的是另一件事:它把「国产算力到底能不能训练出有竞争力的模型」这个问题,拿出来做了公开回答。回答的方式很实在——不是喊口号,而是把训练效率、推理缓存、端侧模型、API 定价四件事同时摊在桌上,让你自己...

10 月 22 日,科大讯飞在 1024 开发者节上发了星火 X2.6。

参数不算行业最大(293B 总参 / 30B 激活),上下文也不算最长(百万 token 已经有几家了)。这场发布真正值得看的是另一件事:

它把「国产算力到底能不能训练出有竞争力的模型」这个问题,拿出来做了公开回答。

回答的方式很实在——不是喊口号,而是把训练效率、推理缓存、端侧模型、API 定价四件事同时摊在桌上,让你自己算。


一、先看数据:一份完整的账

维度 数据 说明
架构 293-A30B MoE 293B 总参,每 token 激活 30B
上下文 100 万 token 长文档/长代码库场景
训练算力 全国产算力(飞星二号万卡集群) 关键词是「训练」不是「推理」
训练效率 2000B 数据、256K 长度 → 4.5 个月降到 1.2 个月 效率约 4 倍
推理效率 国产芯片上达到优化前的 4.5 倍 三项技术叠加
KV Cache 命中率 63% → 95.7% 四层 KV Cache 架构
端云路由准确率 81.2% → 96.1% 判断任务该在端上还是云上跑
端侧模型 X2.6-4B,已开源 上一代 X2.5-4B 累计下载 256 万次
发布节奏 训练只用了 2-3 个月 刘庆峰现场说法

API 定价(这是最直接的竞争力)

项目 价格(元 / 百万 tokens)
输入(缓存未命中) 0.9
输入(缓存命中) 0.08
输出 3.6

官方说法是「输入缓存未命中、输出价格比 DeepSeek-V4.1-Flash-1017 更低」。

注意那个 0.08 元 的缓存命中价——它比未命中的 0.9 元低了 11 倍。这个价差不是随手定的,它是在明示一件事:请把重复的长上下文用起来,我按成本给你让利。 对做 Agent、知识库问答、长文档处理的团队,这个数字比跑分重要得多。

基准成绩(厂商自测)

测试集 表现
SWE Pro 第一
SWE Multilingual 第一
SWE Verified 仅次于 DeepSeek-V4.1-Flash-1017
MCP-Atlas(通用工具调用) 第一梯队
AA-LCR v1.1(长上下文推理) 与 MiniMax M3 持平
端侧 X2.6-4B 在信息搜索问答、办公文档、日程管理、本地表格、跨工具协同、多轮工具调用、复杂知识搜索上均超前代及 Qwen3.5-4B / Gemma4-E4B / Qwen3.5-9B

代码能力(SWE 系列)拿到第一/第二,这是个明确信号:国产算力训练出来的模型,在最吃工程能力的编码赛道已经能进第一梯队。

按惯例提醒:以上均为讯飞自测数据,第三方复现才是终局裁判。


二、真正的技术难点:在显存和带宽受限的芯片上训模型

这一节是本文的核心。因为「全国产算力训练」这句话的分量,全在这三个字上——训练。

推理已经很成熟了,各家都在国产卡上跑推理。但训练不一样:

推理 训练
显存占用 权重 + KV Cache 权重 + 梯度 + 优化器状态(通常是权重的 4-8 倍)
通信模式 主要在前向 前向 + 反向 + 梯度同步,通信量倍增
容错要求 单请求失败可重试 一次跑几十天,中途挂掉代价巨大
精度要求 可量化压缩 对数值稳定性极敏感

国产芯片相对受限的正是显存容量与带宽。所以「能不能训」的答案,取决于你能不能把这两项劣势用工程手段补回来。

讯飞这次给了两个具体方案,都值得记下来。

方案 A:长程任务动态并行训练(训练侧)

要解决的问题:长上下文训练(比如 256K 长度)时,激活值显存占用随序列长度线性甚至超线性增长。传统做法是固定并行策略(固定 TP/PP/DP 切分),但长序列和短序列的最优切分方式完全不同——用一套固定配置,短序列浪费卡,长序列爆显存。

做法:根据任务长度动态分配计算资源,自适应调整并行策略。

效果:飞星二号万卡集群训练 2000B 规模、256K 长度的数据,4.5 个月 → 1.2 个月,效率约 4 倍。

这里最值得注意的是那个「2-3 个月训出 X2.6」的说法——如果属实,意味着这套动态并行已经不只是一个优化技巧,而是把训练周期本身缩短了一个量级,直接改变了模型迭代的节奏。迭代快一倍,等于同样的时间里能多试几版。

方案 B:三项推理侧技术(推理侧)

技术 解决什么问题 手段
自适应存算协同推理 长上下文下显存不够、得频繁换入换出 在存与算之间动态调度,减少数据搬运
异构分布式推理 单机装不下、跨机通信开销大 把推理分散到异构集群,按能力分配负载
四层 KV Cache 架构 缓存命中率低,重复计算浪费算力 业内首个适配全国产硬件的四层 KV Cache

那个四层 KV Cache 是这次最有工程含量的部分。它的成果直接反映在两个数字上:

  • 推理效率:优化前的 4.5 倍
  • KV Cache 命中率:63% → 95.7%

为什么「缓存命中率」能带来这么大幅度的效率提升?因为长上下文场景的成本结构是这样的:

一次请求的总计算量
  = 新输入的计算(无法避免)
  + 历史上下文的重复计算(★ 缓存能吃掉的部分)

上下文越长、重复度越高 → 第二项占比越大 → 缓存的价值越大

命中率从 63% 提到 95.7%,意味着原本有 37% 的长上下文需要重算,现在只剩 4.3%。在百万上下文场景下,这一项省下来的算力可能比模型本身优化带来的还多。

顺带一个观察:昨天 DeepSeek 开源的 DeepInfer 里也有分层 KV Cache(内存 SWA Cache + 3FS Block Cache),今天讯飞给了四层国产硬件架构,命中率 95.7%。

两家不约而同把 KV Cache 当成核心战场,这不是巧合。 它说明行业的共识已经形成:长上下文时代的成本瓶颈,不在模型算力,在缓存效率。


三、端云一体:60/30/10 的任务分配,和 96.1% 的路由准确率

这次 X2.6 的差异化定位是「端云一体」。刘庆峰给的分配比例是:

场景 占比 特点
纯端侧完成 约 60% 数据不出设备,零推理成本
端云协同 约 30% 端侧先脱敏,云端处理,端侧还原
纯云端 约 10% 最复杂的任务

这个比例如果成立,对成本结构的冲击是结构性的——六成任务不花钱。

但整套设计有一个致命前提:路由必须准。 路由判错的代价是双向的:该端办的送云端 → 白花钱;该云办的压在端上 → 答不对。

所以真正有技术含量的是那个数字:

端云路由准确率:81.2% → 96.1%

怎么做到的?讯飞用的是「基于评语模型的端云路由协同训练机制」。

翻译成人话:不是手写规则判断「这个问题该谁做」,而是训一个会打分的模型,让它学会评价「这个任务交给端侧/云端/协同,哪个结果更好」,然后用这个评价信号反向去训练路由决策。

这个思路值得单独拎出来说,因为它绕开了一个经典难题:

传统做法 问题
手写规则路由(按长度/关键词/领域) 覆盖不全,边界情况无穷多
用一个大模型做路由 路由本身就要花钱、要延迟,得不偿失
用评语模型训路由(本次做法) 用「结果好坏」当监督信号,让路由自己学出判断标准

隐私设计:脱敏发生在端侧

端云协同的流程值得单独看,因为它决定了这套架构能不能卖给对数据敏感的行业:

① 端侧模型先梳理本地数据(周报、邮件、经营数据)
    ↓
② 端侧模型做脱敏处理            ← 关键:脱敏在本地完成,明文不出设备
    ↓
③ 发起协作申请,脱敏后的内容上云
    ↓
④ 云端模型处理后返回
    ↓
⑤ 端侧模型把脱敏信息还原,生成完整内容

现场演示的场景是一个创业公司总经理让 AStudio 在不联网的情况下查看各大区周报和邮件、分析经营情况,输出可视化表格、三项待办、风险提示,并附上对应邮件链接。

对教育、医疗、法律、政法这类行业,这套「端侧脱敏 + 云端协同 + 端侧还原」的流程,比任何跑分都更有说服力——它是能不能进这个市场的前置条件。


四、端侧 4B:一个被低估的战场

讯飞把 X2.6-4B 开源了。这个选择值得单独说一句,因为端侧模型的竞争逻辑跟云端完全不同。

维度 云端大模型 端侧 4B
竞争点 能力上限 能装进多少设备
部署环境 数据中心 机器人、车机、AI PC、手机
商业模式 按 token 收费 免费 + 带动硬件/生态
关键指标 跑分 下载量、装机量

上一代 X2.5-4B 从 9 月 1 日开源到现在,下载 256 万次,全球端侧模型前四。这个数字比很多云端模型的调用量更能说明生态位。

这次 X2.6-4B 的训练方法也有个细节值得记:

端云一体训练技术:采用端侧模型能力感知的自适应迭代后训练算法,根据端侧能力动态选择教师模型、调整训练比重。

这是知识蒸馏的一个变体。传统蒸馏是「固定用最强的教师模型」,但问题在于——教师的强项未必是学生的短板。端侧 4B 的瓶颈在特定能力(工具调用、长文本),用一个「全面强但风格不匹配」的教师,蒸馏效率不高。

改成按端侧模型的实际能力表现动态挑教师,等于每次蒸馏都针对当前最弱的那一项。这个思路可以迁移到任何「大模型教小模型」的场景。


五、一个必须记录的坦诚:差距还在

这场发布会里,我认为最值得引用的一句话不是任何技术指标,而是刘庆峰的这句:

国产算力对标全球仍有两代左右的差距,但差距会逐步缩小。

在自家产品发布会上公开承认差距,这在国产模型发布会里不常见。

这句话的价值在于它给了整场发布一个正确的解读框架:X2.6 证明的不是「国产算力已经追平」,而是「国产算力上的工程优化,已经能把差距压缩到产品可用的程度」。

这两件事完全不同:

  • 前者是硬件问题,短期内解决不了
  • 后者是软件问题,可以靠算法和工程一点点啃

而这次拿出来的所有数字——4 倍训练效率、4.5 倍推理效率、63%→95.7% 缓存命中、81.2%→96.1% 路由准确率——全部是软件层面的收益。也就是说,它们是在「硬件差两代」这个既定前提下,用工程手段抢回来的。

这个思路对所有做国产化适配的团队都适用:硬件的账算不过,就先在软件栈上把每一分算力榨干。


六、三条可以带走的判断

判断一:KV Cache 命中率正在成为比跑分更重要的选型指标

讯飞 95.7%、DeepSeek 96%——两家头部不约而同把命中率做到 95% 以上,而且都把它当成核心卖点。

对你的实际意义:下次选模型,别只问「跑分多少」,问「缓存命中怎么算钱」。

一个跑分高 5 分但缓存命中率只有 60% 的模型,在长上下文 Agent 场景里,真实成本可能比便宜模型贵一倍以上。因为你的账单里,重复上下文的比重往往远大于新输入。

判断二:端云路由是一个被忽视的架构层

大多数团队做 AI 应用时,架构只有两种:纯云、纯端。中间那层「按任务决定在哪跑」几乎没人认真做。

但 60/30/10 这个分配揭示了它的价值:如果能准确判断 60% 的任务不需要上云,你的推理成本直接砍掉一大半。

而做这件事的门槛,比想象中低——不需要自研芯片,只需要一个可靠的路由判断(哪怕先用关键词规则起步,再逐步训评语模型)。成本优化的性价比,在路由层往往高于模型层。

判断三:2026 年的国产模型竞争,已经从「刷分」转到「算账」

看这次发布的组合拳:

  • 训练效率(迭代速度 → 抢时间窗口)
  • 推理效率(单位成本 → 抢价格空间)
  • 缓存命中(长上下文成本 → 抢 Agent 场景)
  • 端侧开源(装机量 → 抢生态位)
  • 定价(0.9/0.08/3.6 → 直接对标友商)

没有一项是在比「谁更聪明」,全部是在比「谁的成本结构更好」。

这个转向对整个行业是好事——因为能力差距在缩小,而成本差距会直接决定谁能活下来。


七、一句话总结

星火 X2.6 最值得记的不是 293B,也不是百万上下文,而是它给出的这个证明方式:

在硬件落后两代的既定条件下,用动态并行、四层 KV Cache、评语模型路由这几项纯工程手段,把训练周期砍掉 3/4、推理效率提到 4.5 倍、缓存命中做到 95.7%。

如果这套方法可复现,那么「国产算力能不能训出好模型」这个问题,答案已经不再是「等硬件追上来」,而是「先看软件能把现有硬件榨到多干」。

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0)

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。