天垓 300 对标 H200：九个数字的分母、条件与残值，以及一道算不通的除法

10 月 28 日，天数智芯在上海办了一场媒体开放日，把自家旗舰通用 GPU 天垓 300 搬到台上，和英伟达 H200 跑同一组模型。这是国产 GPU 第一次同时拿出"第三方实测"和"现场实机对比"两条证据链。

先看最核心的三个数：

三个数字，三种性质：第一个是第三方测的，第二个是自家实验室测的，第三个是"测算"出来的。把它们并排放进同一段通稿，读者很容易当成同一级别的证据。实际上它们的可信度差着量级。

这篇文章做一件事：把这份成绩单上的九个数字逐个拆开，每个都问三句话——分母是谁、在什么条件下测的、换到你的机房还剩多少。这三问做完，1.05 这个数到底是里程碑还是及格线，自然清楚。

先说一个在拆解过程中撞见的问题：官方同时公布了"单卡显存 144GB"和"单柜 144 颗、聚合显存约 10.1TB"。这两个数字乘不起来。后面第 5 节专门算这道除法。

全景：九个数字和它们的采信度

先把散落在各家报道里的数据集中到一张表，并标注每一格的证据等级。

这张表最该注意的不是数值大小，而是列：九个数里只有第一个出自第三方机构，其余八个全部来自厂商自己的性能实验室。

这不是说自家测的不可信。GPU 厂商做性能实验室数据是行业惯例，英伟达、AMD 都这么干。但读者必须清楚一件事：**自家实验室可以选择测什么、不测什么、用哪个版本的驱动、开哪一组编译选项。**第三方测试同样有选择权，只是多了一道外部约束。

这张表里的九个数，全部属于"推理性能"这一类。天垓 300 还公布了训练侧（Qwen3-32B 八卡 FP8）、端侧（彤央 TY1200）和软件栈三组数据，口径各不相同，放在一起比会出问题，后面单独开章节处理。

还有一个容易漏掉的时间差：第三方测试是 2026 年 7 月做的，公开演示是 10 月 28 日，中间隔了将近四个月。这四个月里驱动版本、固件、算子库大概率都迭代过。也就是说，公布的数字可能比现在的实际能力保守，也可能因为环境变化而不再成立——两种方向都有可能，但报道里没人提这个窗口期。

第 1 问：1.05 倍的分母，是哪一代的 H200

所有相对数都有一个隐藏分母。这里的 1.00 是 H200。

H200 的位置需要说清楚：

关键点是最后两行之间的张力。H200 既是"国产 GPU 要对标的标杆"，也是"美国出口管制框架下允许卖到中国的最强一档"。这两个身份同时成立，意味着天垓 300 追平的是一个被政策限定了天花板的对手。

再往上看一代：英伟达当前主力已经转向 Blackwell（B200 / GB200），2026 年处于大规模部署阶段。所以"1.05 倍 H200"翻译成代际语言是：

这个区别不是文字游戏。它直接决定采购决策：如果你的机房对标基线是 H200（很多国内推理集群确实是），那 1.05 倍是有意义的；如果你的基线是 B200，这个数字帮不上忙。

残值判断：在 H200 作为采购基准的场景下，1.05 倍基本可信。在"对标英伟达最强算力"的语境下，这个数字要打回"追平上一代"。

补一层：H200 的真问题不是代际，是交不了货

上面那张表里"对华供应状态"只有一行，实际过程要复杂得多，而它直接改变了 1.05 倍的分量。

放行没有带来放量。交叉多个来源的信息是：

• 约 10 家企业获得许可，但审批流程漫长，且大部分被要求部署在中国大陆以外；
• 英伟达告知合作伙伴，实际能交付的数量可能只有所提需求的 5%–10%；
• H200 出货额不到英伟达数据中心业务单季收入的 1%；
• 英伟达已为 H200 的过剩库存和采购承诺计提 4 亿美元费用；
• 中国客户总订单超过 600 万张卡，英伟达 2027 年全球产量可能不超过 300 万张，且优先供应 Rubin 平台。

把这几条串起来，1.05 倍的真实语境变了：H200 不是国产 GPU 在市场上面临的对手，而是一个交不了货的参照物。

这解释了两件事。一是为什么对标 H200 而不是 B200——不是不敢，是 H200 是中国市场唯一能合法进口、有真实报价、被反复讨论的高端推理卡。二是为什么 1.05 倍有商业意义——在一个"加价 25% 还拿不到货"的市场里，能提供 1.05 倍吞吐且可稳定交付的卡，性价比不是线性关系。

推算一层：只算 25% 分成这一项，卡价相同时 H200 的实际获取成本是 1.25 倍；天垓 300 吞吐为 1.05 倍。两者折算，单位 Token 的设备成本比约为 1.25 ÷ 1.05 ≈ 1.19，即天垓 300 在这一项上领先约 16%。这只是设备侧，不含电力、机房、运维。官方"每百万 Token 成本降约 40%"的数字里，剩下那 20 多个百分点要从别处找——见第 6 问和第 11 问。

第 2 问：第三方测试的"第三方"和"四大模型"

测试方是上海仪电，国资背景的第三方机构，2026 年 7 月完成。这个组合的可信度高于厂商自测，但仍有几个信息缺口。

官方口径是"针对四大主流模型、三类场景开展第三方测试"。已经披露的信息：

其中"每个模型的单独成绩"最值得追问。一个平均值可以掩盖分布。如果四个模型里三个是 0.98、一个是 1.25，平均下来也能到 1.05 附近——但含义完全是另一回事：那说明优势只在特定模型架构上成立，而不是通用能力。

这也解释了为什么官方在披露实验室数据时，会单独点名 GLM-5.3：那是它能跑到 1.15 的模型。被点名的往往是最好看的那个。

残值判断：第三方背书本身有效，"1.05 倍"作为整体结论可以采信；但"哪四个模型"未公开之前，不能假定这个结论对你手上的模型同样成立。

第 3 问：PD 分离这个条件，帮了谁

所有实测数字都挂在一个前提上：PD 分离部署。

PD 分离是把推理的两个阶段拆到不同硬件上跑：

不拆的时候，一张卡要同时应付两种截然不同的负载：Prefill 阶段算力打满但显存带宽闲着，Decode 阶段带宽打满但算力闲着。拆开之后，各自配最合适的资源配比。

这个部署方式对国产卡的意义比表面更大：

换句话说，PD 分离把"一张卡要全能"的考题，改成了"一张卡要专精"的考题。这对任何在某一方面存在短板的硬件都是有利的。

但这里不能简单判定为"挑软柿子"。原因是：PD 分离本身就是当前云厂商部署大模型在线服务的主流方案，不是为这次测试量身定做的特殊条件。用行业通用部署方式做基准，是合理的。

真正需要留意的是它不测什么：

如果应用场景是不能拆分的单体推理（比如边缘侧、小规模私有化部署），这些数据基本不适用。

残值判断：如果你的线上服务已经跑 PD 分离，这组数据可以直接参考；如果是单机单卡部署，残值接近零。

第 4 问：九个数的分布，暴露了优化重点

把九个数字按强弱排序，会看到一条清晰的曲线：

这张排序表比"1.05 倍"这个总结论信息量大得多。

**第一，真正拉开差距的是搜广推，不是大模型推理。**推荐系统的推理吞吐高 21%、轻量计算时延低 26%，这是九个数字里最漂亮的两个。原因不难推：搜广推模型结构相对固定、算子种类少、batch 大、对低精度友好——正是硬件针对性优化最容易见效的场景。

**第二，MoE 是主战场。**64K 上下文下 MoE 吞吐 1.15 倍，冠以具体模型名（GLM-5.3）。这说明硬件设计上对专家路由、小规模矩阵乘、专家间通信做了专门优化。官方技术说明里也提到了这一点：Tensor Core 与 Vector Core 并行处理 Attention 中的矩阵运算与 Softmax 等向量操作，针对 MoE 的小规模矩阵、低精度计算与通信协同做优化。

**第三，多模态是短板。**2%–5% 的提升，在统计上接近噪声。而且区间窄得反常——通常性能对比会给一个范围，2% 到 5% 这种跨度说明多次测试的方差本身就有 3 个百分点左右。换句话说，这一项的真实结论更接近"持平"，而不是"领先"。

现场有一个细节值得记下：文生图测试中，天垓 300 完成率 100%、吞吐 0.101 张/秒，H200 完成率 87.5%、吞吐 0.086 张/秒，但天垓 300 的单次任务耗时多了 0.64 秒。吞吐更高、完成率更高，但单个任务更慢——这三个指标同时成立，说明它是靠更好的并行调度赢的，而不是靠单任务速度。

这组数据其实比"多模态高 2%–5%"这个总结更诚实，也更有用：批量生成场景选天垓 300，单张出图场景 H200 更快。

残值判断：搜广推和 MoE 长上下文这两个方向的数据可以放心参考；多模态请按"持平"预期；如果你的业务是单张高质量出图，这组数据甚至反向支持 H200。

第 5 问：那道算不通的除法

现在说这篇文章最想讲的一处。

官方在两处给了显存数字：

做一道小学除法：

144 颗 × 144GB/颗 = 20736GB ≈ 20.7TB
官方公布聚合显存 ≈ 10.1TB
差值 ≈ 10.6TB，接近一半

这道除法算不通。

反过来算：10.1TB ÷ 144 颗 ≈ 70.2GB/颗。

70GB 这个数字指向一个很具体的配置：72GB HBM（常见 HBM3 堆叠配置之一，实际可用略低于标称）。

于是有三种可能的解释：

A 的可能性最高。理由有两条：

第一，这条错误有明确的传播路径。"IXL144"这个型号名里就带 144，而"单卡 144GB 显存"这个说法在多家媒体的转述中反复出现，措辞几乎一致（“搭载 144GB 大容量 HBM 显存”）。这种高度一致又互相矛盾的表述，是多手转述的典型特征。

**第二，70GB 级更符合这张卡的定位。**H200 是 141GB HBM3e。如果天垓 300 真的有 144GB，官方一定会把"显存比 H200 还大"当成核心卖点反复讲——而不是只在规格段落里一笔带过。反过来，如果只有 72GB 级，那"显存只有对手一半，吞吐仍做到 1.05 倍"才是真正值得说的技术故事。

第三种可能也有微弱空间：如果 IXL144 采用某种显存池化架构（统一内存语义、跨卡共享），聚合显存的口径可能和"卡数 × 单卡容量"不一致。官方确实提到了"统一内存语义编程"和"大 EP 部署"，说明这套系统在内存管理上有额外设计。但即便如此，聚合容量通常也不会正好是一半。

这件事的意义不在谁对谁错，而在于：所有引用这份规格的二手报道，都没有做过这道除法。一份对外发布的规格表，如果内部两个数字乘不起来，要么是有一个数字错了，要么是有一个口径没解释——两种情况都应该在被引用之前被发现。

对读者的操作建议很直接：**看到"单卡 XX GB + 单柜 N 颗 + 聚合 Y TB"这种三元组，先乘一遍。**乘不起来就问口径，别直接转述。

残值判断：单卡显存容量应以官方一手规格为准，目前公开信息自相矛盾，按 72GB 级做容量规划、按 144GB 做上限期待，是更安全的做法。

第 6 问：40% 成本降幅，分母是什么

“每百万有效 Token 成本较国际主流方案降低约 40%”——这是全篇商业价值最高的一个数，也是分母最模糊的一个。

先看这个数的计算基础：

"国际主流方案"这个措辞的模糊性是关键。不同的对比对象，40% 的含义完全不同：

官方没有点名。这是典型的"分母不可见"问题。

更要紧的是成本口径本身。官方在讲解这套逻辑时，自己给了一组行业事实：

这组数字来自官方口径，很有价值。因为它说明：**在真实机房里，标称算力的绝大部分是浪费掉的。**于是"每百万 Token 成本"这个指标的真实驱动因素，不是单卡峰值，而是"能把这 20% 的利用率提到多少"。

而官方给的 40% 降幅，是在什么利用率假设下算出来的？没有说。

这带来一个直接的判断方法：

残值判断：40% 是"测算值"而非"实测值"，且分母未公开。采购时应当把它当作"值得去问一轮报价"的信号，而不是"可以直接写进预算表"的依据。

第 7 问：0.43% 这个数，可能比 1.05 更值钱

九个数字里，最不起眼的是这个：

步时波动，指的是连续推理过程中每一步耗时的一致性。这个指标不性感，但它决定了一件事：集群的尾延迟。

大模型在线服务的用户体验不由平均值决定，由 P95、P99 决定。而尾延迟的主要来源，就是少数请求恰好撞上性能抖动。步时波动从 0.76% 降到 0.43%，意味着抖动幅度减半——反映到服务层面，就是长尾请求变少、超时重试变少、SLA 更容易守住。

为什么这个数比 1.05 更值钱？因为 1.05 是"能不能打"，0.43% 是"能不能长期跑"。

但这里同样有缺口：**"满负荷"跑了多久没说。**一次 10 分钟的满负荷测试和一次 72 小时的稳定性测试，得到的波动数字不是一回事。GPU 的降频行为、HBM 的热特性、互联的拥塞，都只在长时间运行后才显现。

行业里判断稳定性通常看这几个数：满负荷持续时长、温度墙触发次数、是否降频、错误率（尤其 ECC 可纠正错误计数）、MTBF。官方只给了波动率，其余全无。

残值判断：方向对、指标选得好，但缺少时长与温度信息，只能当"初步正面信号"，不能当稳定性证明。

第 8 问：训练侧为什么换了分母

第九个数字是这样的：

Qwen3-32B、8 卡整机、FP8 精度训练，天垓 300 每卡有效吞吐达到 H100 的 1.33 倍。

注意分母：H100，不是 H200。

这是一个需要留意的技巧。H100 和 H200 是同一代 Hopper 架构，但 H200 的显存更大、带宽更高（141GB HBM3e / 4.8TB/s vs H100 的 80GB HBM3 / 3.35TB/s）。在训练场景，显存带宽往往比推理更关键。

换分母本身不违规——H100 是国内存量最大的一代训练卡，拿它当基线有现实意义。但读者需要自己完成这个换算：**1.33 倍 H100 ≠ 领先 H200。**如果按带宽比例粗略折算，1.33 倍的 H100 在 H200 面前可能只剩零点几。

同一段还给了另一个数：

1024 卡，对已有预训练基座做一次强化学习，40B 激活参数中心情景下，约 26 天可完成约 1T 总参数 MoE 模型的 500 亿生成 Token 强化学习任务。

这个数值得单独算一遍：

500 亿 Token ÷ 26 天 ≈ 19.2 亿 Token/天
19.2 亿 ÷ 1024 卡 ≈ 187.5 万 Token/卡/天
187.5 万 ÷ 86400 秒 ≈ 21.7 Token/卡/秒

21.7 Token/秒/卡，这是 RL 训练场景的生成吞吐。这个水平放在推理场景看很低（推理卡单卡能跑到上千 Token/秒），但 RL 训练本来就要同时跑前向、反向、优化器更新，还要跑环境交互，吞吐低是正常的。

需要注意"条件性工程估算"这个限定词。官方自己就说了这是估算，不是实测。而且里面藏着几个强假设：1024 卡线性扩展、无故障中断、通信开销按理想值算。真实环境的 26 天，通常要往上加。

残值判断：训练侧数据的分母已换，不能直接和推理侧的 1.05 倍并列引用；26 天这个数是估算，且假设理想线性度，实际工期应留余量。

第 9 问：端侧对比，口径比结果更重要

现场同时发布了端侧产品彤央 TY1200，对比对象是英伟达 Thor T5000。这一组对比里，口径问题最突出。

两个算力数字根本不在一个口径上：一个是 INT8 稠密，一个是 FP4 稀疏。稀疏算力通常是稠密算力的 2 倍甚至更多，而 FP4 相对 INT8 又有精度换吞吐的加成。在这种口径差异下，直接把 300 TOPS 和"2P"放在一起比大小是没有意义的。

有意思的是，天数智芯自己在讲解时特别强调了这一点：**“标称 300 TOPS 稠密算力，而非行业惯用的稀疏峰值。”**这句话是在批评对手用稀疏口径虚标算力。

但同一个逻辑也应该用在自己身上：既然批评对手用稀疏峰值，那比 Thor 的时候，是不是也该统一到稠密口径再比？官方没做这一步。它选择了更稳妥的说法——不比算力数字，比实测性能。

实测数据是这样的：

Cosmos 那两项（158%、180%）比 LLM 那项的 1.2 倍高出一大截。这个分布本身说明问题：**在视觉/世界模型类负载上优势更明显，在纯语言模型上优势收窄。**这和云端那张表的结构一致——都是在自己优化的方向上领先更多。

一个细节值得记下：现场复刻了英伟达 GTC 柏林展示的机器鸭场景，但做法不同。英伟达把训练任务送到云端超算，天数智芯把物理仿真、策略训练、动作验证全部放在离线断网的 TY1200 上完成，用的是 MuJoCo-Warp 的 GPU 加速物理仿真。官方称这是首次在国产端侧产品上实现这套流程。

这个演示的意义不在性能，在形态：它证明了"训练不需要上云"在端侧是可行的。对数据不出门、离线部署的场景（军工、医疗、工业现场），这条路径的价值比算力倍数更大。

残值判断：端侧对比的算力口径不可直接比，实测性能数据可用但需按负载类型区分；Cosmos 类视觉负载的 1.5–1.8 倍可信度较高，纯 LLM 的 1.2 倍要打折扣。

第 10 问：AFD 异构那 60%，减的是什么

官方公布的第五个关键数据是：

GPU + XPU 异构 AFD 分离方案，实测 Decoding 推理延迟降低 60%，国内首个基于 GPU + XPU 的异构部署 AFD 分离方案。

先把 AFD 拆清楚。PD 分离是把 Prefill 和 Decode 拆开，AFD 是在此基础上继续往下拆 Decode：

这套拆法的逻辑是：MoE 模型里 FFN 部分由大量小专家组成，单个专家计算量小但要频繁调度；而 Attention 对延迟极其敏感。把两者放到不同类型的芯片上，各取所长。

60% 这个数字的准确含义是Decoding 延迟降低，不是吞吐提升。这两件事经常被混淆：

延迟降 60% 对交互式应用（对话、Agent）价值极大，但对批处理场景（离线标注、批量生成）意义有限。

这套方案的真正代价不在性能，在复杂度：

官方对这套方案的态度很明确，负责人单天逸的说法是"未来的 AI 算力系统，不一定由一种芯片包打天下，关键是如何把它们高效组织起来"。这个判断在方向上成立——异构是长期趋势。但在当下，异构的工程成本常常被低估。

残值判断：60% 是延迟指标，不是吞吐；这套方案适合已有 XPU 资产、且对交互延迟敏感的场景。若机房是单一芯片体系，引入异构的收益需要重新评估。

第 11 问：软件栈那三个数，才是真正的门槛

硬件数据之外，官方花了很大篇幅讲软件栈。三个数字：

另外还有：人工操作从数十步减少到 1 步，编译速度提升 90% 以上，首家深度接入 FlyDSL 的国产 GPGPU 厂商。

这三组数字的绝对值都极其夸张（84 倍、数十倍），必须看清楚它们的口径：

第一项（部署时间 6 倍提速）最有说服力，因为部署流程是标准化的，测起来没有太多选择空间。后两项是单案例，且优化前后的对比往往伴随着"从手工调参到用工具自动搜索"的方法论跃迁——这种跃迁的收益在第一次使用时最大，后续边际递减。

真正值得关注的是另一个数字：累计服务客户超 380 家。

这个数字和前面三个形成了一组有趣的对照：

最后一行是关键。“小时级迁移"和"数天到一周优化"这两个描述放在一起，说明一件事：**国产卡已经能上生产线，但还没做到插上就能用。**迁移不是零成本，只是成本从"数月"降到了"数天”。

这对采购决策的含义很直接：迁不迁，取决于你的团队有没有这几天时间，以及厂商愿不愿意派工程师驻场。

残值判断：部署效率的提升可信；调优倍数（84 倍、数十倍）是单案例，按 5–10 倍预期更稳妥；380 家客户是真实进展，但"数天到一周优化"意味着隐性人力成本仍在。

未披露清单

把上面十一节里所有缺口汇总成一张表。这张表本身比任何结论都有用——因为它就是你和厂商技术对接时要问的问题清单。

十四项里，前五项属于"规格书就该有但没有"，中间五项属于"测试方法未公开"，后四项属于"商业信息"。第一类的缺失最不该发生——它们是静态参数，不涉及商业机密。

三类人该怎么用这份数据

同一份成绩单，采购、架构师、开发者的读法完全不同。

采购：把它当询价理由，不当采购依据

一条经验：**整柜方案的报价谈判空间，通常比单卡大。**因为整柜是打包价，客户很难逐项比价。这时候要求拆分报价（卡、交换机、软件授权、服务），是压价最有效的手段。

架构师：先看你的部署形态对不对得上

架构师最该拿走的一件事是那张九数排序表。它反向说明了硬件优化重点在哪：MoE、搜广推、长上下文 Attention。如果你的负载不在这三个方向上，1.05 倍与你无关。

开发者：软件栈的迁移成本要自己算

"原生支持 CUDA 语义"这句话要拆开看。语义兼容和二进制兼容是两件事：前者意味着源码级可以编译过去，后者意味着编译好的程序能直接跑。绝大多数国产卡的兼容属于前者。这意味着任何依赖预编译 CUDA 二进制的环节（某些闭源算子库、某些推理框架的预编译包）都可能需要重新编译或替换。

收口：1.05 这个数字真正的位置

回到开头那个问题：这是里程碑还是及格线？

答案取决于拿什么尺子量。

**放在国产 GPU 的历史里，它是里程碑。**过去几年国产卡的公开数据基本停留在两个层次：理论峰值，或者单算子对比。这次第一次给出了"整条推理链路、端到端、业务吞吐"的第三方数据，并且开放了现场实机让媒体现场命题。这个动作本身的意义，大于 1.05 这个数值。

**放在全球算力格局里，它是及格线。**1.00 的分母是 2023 年底发布的 H200，而英伟达的主力已经走到 Blackwell。追平上一代旗舰，是进入竞争区间的门票，不是终点。官方自己的路线图也承认这一点——2026 年 1 月公布的多年度架构规划里，目标是两年内超越英伟达的 Rubin 平台。这个目标本身就说明：现在的位置是追赶，不是领先。

**放在采购决策里，它是一个需要验证的假设。**九个数里八个来自自家实验室，唯一第三方的那个没说清四个模型是哪四个，成本降幅的分母没公开，规格表里还有一道算不通的除法。这些都是可以用一次 POC 解决的问题——但必须做，不能跳。

如果只从这篇文章里带走一句话，应该是这句：

相对数的可信度不由数值大小决定，由分母和条件决定。看到任何一个"X 倍"，先问三件事：分母是谁、在哪测的、换到自己的环境还剩多少。

这套三问法不只适用于 GPU 评测。模型榜单、推理框架性能报告、数据库 TPC 数据、甚至一份内部 A/B 测试结果，都可以用同样三问过一遍。差异只在于第三问的答案通常是"打个折"，而不是"归零"。

至于那 1.05 倍背后真正值得关注的，其实不是性能，是 0.43% 的步时波动和万卡级部署经验这两件事。前者决定能不能签 SLA，后者决定能不能按期交付。在一个 Token 成本决定竞争力的市场里，"跑得快"只是入场券，"长期不掉链子"才是生意。