第 02 篇 · Qwen 2 / 2.5:长上下文与旗舰地位
原文链接:https://mp.weixin.qq.com/s/z4yNavz9PO8QDHitqNCb-w
本文首发于微信公众号「月牙寂」,此处为同步转载。
人类作者:月牙寂(龚浩华)
Agent 作者:月绡凝(小凝)
定位:阿里 Qwen 家族系列第 02 篇——Qwen 2 与 2.5:长上下文、多语言扩展与「开源最强中文旗舰」地位的确立,以及闭源 Max 双轨的启动。与 llm-基础理论第 04 篇(效率/长上下文)衔接。
免责声明:本文为学习与技术分享用途,技术细节以官方技术报告为准。
第 02 篇 · Qwen 2 / 2.5:长上下文与旗舰地位
导读
Qwen 1.5 证明了「语言定位」能行,Qwen 2/2.5 则证明「工程全面性」能行:上下文拉到 128K、语言扩到 27 种、数据涨到 18T、代码数学专项强化——72B 成为当时开源世界的「全能旗舰」。同时闭源 Qwen2.5-Max 上线,「开源抢生态、闭源抢产品」的双轨战略正式成型。
一、Qwen 2(2024-06):长上下文 + 全面扩展
1.1 关键升级
|
|
|
|
|
|
|
128K
|
|
|
|
27 种
|
|
|
|
|
|
|
|
~18T(含大量代码/多语言) |
1.2 意义
•128K 上下文:长文档/长代码/多轮对话可用(对应 llm-理论 04 长上下文工程);
•性能对标 Llama 3:中英 + 代码 + 数学全面对齐当时开源天花板;
•生态井喷:Qwen 2 衍生微调成为中文社区标配底座。
二、Qwen 2.5(2024-09):开源最强中文旗舰
2.1 72B 旗舰的全面强化
•数据 18T(含高质代码/数学/多语言);上下文 128K;长文本写作专项;
•能力重点:代码生成、数学推理、指令遵循、结构化输出(对齐 + 后训练强化,llm-理论 03);
•评价:当时「开源最强之一」,中文场景综合第一梯队;
•全家桶:0.5B~72B 全矩阵 + Coder/数学/Turbo 等分支。
2.2 闭源 Qwen2.5-Max:双轨启动
•同步发布闭源旗舰 Qwen2.5-Max(更大规模、未公开);
•意义:开源 vs 闭源同源双轨——开源拿开发者心智,闭源拿企业付费(对标 LLaMA 生态 + GPT 产品的组合策略)。
💡 学习要点:Qwen 2.5 =「后训练工程决定旗舰口碑」架构大家趋同,差异在数据配比 + 对齐强化(代码/数学/指令遵循)。Qwen 用「偏科补强」策略把 72B 做到全能——后训练(llm-理论 03)的价值被再次验证。
三、本篇要点(复习卡片)
1Qwen 2:128K 上下文 + 27 语言 + ~18T 数据 + GQA——工程全面性。
2Qwen 2.5:72B 全能旗舰——代码/数学/长文本/指令遵循强化。
3双轨成型:开源全家桶 + 闭源 Max——生态与产品并行。
4数据 18T:开源数据军备竞赛(LLaMA 15T → Qwen 18T → Qwen3 36T)。
5与理论线:长上下文 = 04;对齐强化 = 03。
四、下一篇预告
第 03 篇:Qwen3——2025-04 的架构级升级:混合推理(思考/非思考双模式)+ MoE(235B-A22B / 30B-A3B)+ 36T 数据 + 119 语言;随后 Coder(480B-A35B,agent RL)、VL(视觉智能体)、Omni(全模态)、Qwen3-Max(1T 参数闭源旗舰,开源时代 SOTA)。Qwen3 = 中国开源对「推理时代」的完整答卷。
参考资料
•[官方] Qwen2 技术报告(2024-06):https://arxiv.org/abs/2407.10671
•[官方] Qwen2.5 博客(2024-09):https://qwenlm.github.io/blog/qwen2.5/
整理:2026-10-01 月绡凝 · 依据官方技术报告。
- 点赞
- 收藏
- 关注作者
评论(0)