第 02 篇 · Qwen 2 / 2.5:长上下文与旗舰地位

举报
yd_287713361 发表于 2026/10/28 21:56:01 2026/10/28
【摘要】 第 02 篇 · Qwen 2 / 2.5:长上下文与旗舰地位

原文链接:https://mp.weixin.qq.com/s/z4yNavz9PO8QDHitqNCb-w

本文首发于微信公众号「月牙寂」,此处为同步转载。

人类作者:月牙寂(龚浩华)

Agent 作者:月绡凝(小凝)

定位:阿里 Qwen 家族系列第 02 篇——Qwen 2 与 2.5:长上下文、多语言扩展与「开源最强中文旗舰」地位的确立,以及闭源 Max 双轨的启动。与 llm-基础理论第 04 篇(效率/长上下文)衔接。

免责声明:本文为学习与技术分享用途,技术细节以官方技术报告为准。

01SECTION

第 02 篇 · Qwen 2 / 2.5:长上下文与旗舰地位


02SECTION

导读


Qwen 1.5 证明了「语言定位」能行,Qwen 2/2.5 则证明「工程全面性」能行:上下文拉到 128K、语言扩到 27 种、数据涨到 18T、代码数学专项强化——72B 成为当时开源世界的「全能旗舰」。同时闭源 Qwen2.5-Max 上线,「开源抢生态、闭源抢产品」的双轨战略正式成型。

03SECTION

一、Qwen 2(2024-06):长上下文 + 全面扩展


1.1 关键升级

维度
Qwen 1.5
Qwen 2
上下文
32K
128K
(基础 8K,可扩)
语言
12 种
27 种
 + 代码语料大幅增加
架构
GQA 引入
GQA 全面化 + 更强多语言 tokenizer
数据
3T 级
~18T(含大量代码/多语言)

1.2 意义

•128K 上下文:长文档/长代码/多轮对话可用(对应 llm-理论 04 长上下文工程);

•性能对标 Llama 3:中英 + 代码 + 数学全面对齐当时开源天花板;

•生态井喷:Qwen 2 衍生微调成为中文社区标配底座。

04SECTION

二、Qwen 2.5(2024-09):开源最强中文旗舰


2.1 72B 旗舰的全面强化

•数据 18T(含高质代码/数学/多语言);上下文 128K;长文本写作专项;

•能力重点:代码生成、数学推理、指令遵循、结构化输出(对齐 + 后训练强化,llm-理论 03);

•评价:当时「开源最强之一」,中文场景综合第一梯队;

•全家桶:0.5B~72B 全矩阵 + Coder/数学/Turbo 等分支。

2.2 闭源 Qwen2.5-Max:双轨启动

•同步发布闭源旗舰 Qwen2.5-Max(更大规模、未公开);

•意义:开源 vs 闭源同源双轨——开源拿开发者心智,闭源拿企业付费(对标 LLaMA 生态 + GPT 产品的组合策略)。

💡 学习要点:Qwen 2.5 =「后训练工程决定旗舰口碑」架构大家趋同,差异在数据配比 + 对齐强化(代码/数学/指令遵循)。Qwen 用「偏科补强」策略把 72B 做到全能——后训练(llm-理论 03)的价值被再次验证。

05SECTION

三、本篇要点(复习卡片)


1Qwen 2:128K 上下文 + 27 语言 + ~18T 数据 + GQA——工程全面性。

2Qwen 2.5:72B 全能旗舰——代码/数学/长文本/指令遵循强化。

3双轨成型:开源全家桶 + 闭源 Max——生态与产品并行。

4数据 18T:开源数据军备竞赛(LLaMA 15T → Qwen 18T → Qwen3 36T)。

5与理论线:长上下文 = 04;对齐强化 = 03。

06SECTION

四、下一篇预告


第 03 篇:Qwen3——2025-04 的架构级升级:混合推理(思考/非思考双模式)+ MoE(235B-A22B / 30B-A3B)+ 36T 数据 + 119 语言;随后 Coder(480B-A35B,agent RL)、VL(视觉智能体)、Omni(全模态)、Qwen3-Max(1T 参数闭源旗舰,开源时代 SOTA)。Qwen3 = 中国开源对「推理时代」的完整答卷。

07SECTION

参考资料


•[官方] Qwen2 技术报告(2024-06):https://arxiv.org/abs/2407.10671

•[官方] Qwen2.5 博客(2024-09):https://qwenlm.github.io/blog/qwen2.5/


整理:2026-10-01 月绡凝 · 依据官方技术报告。



【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0)

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。