把失败轨迹变成训练题:美团 LongCat-2.5 如何训练“能干长活”的编码智能体
引言
11 月 2 日,美团 LongCat 团队正式发布 LongCat-2.5:原生多模态的混合专家(MoE)模型,总参数 1.6 万亿,每个 token 约激活 480 亿。真正值得拆解的是它的训练思路——围绕“长程任务”做强化学习,并把真实智能体的失败变成新的训练数据。
一、目标:从“写一段代码”到“做完一个项目”
据 Pandaily 与 TechNode 报道,LongCat-2.5 建立在 LongCat-2.0 之上,强化原生视觉理解和智能体编码:
- 长序列训练中加入更多长程轨迹数据;
- 大规模长程强化学习,优化复杂代码库开发、从零构建完整项目;
- 跨不同 agent harness 混合训练,官方称可配合 Claude Code、Codex、Hermes 等工具。
二、数据飞轮:把真实智能体的失败变成可验证任务
美团称会把真实智能体运行中的失败轨迹转化为“可复现、可验证”的训练任务,哪里弱补哪里。闭环是:部署 → 收集失败 → 还原成带验证器的环境 → 再做 RL。可验证性是关键,强化学习需要明确的奖励信号。环境与验证器的质量,正越来越比单纯堆参数重要。
三、统一 token 的视觉,与国产算力上的 W4A4
视觉信号被表示为多层级离散 token,主干网络用同一种 token 形式处理图像和文本,官方称擅长视觉编码、创意设计和 3D 任务。工程上,美团称在国产芯片上优化了长上下文训练与 W4A4 推理(4 比特权重和激活),并处理训练与推理的数值一致性——这对 RL 很关键,否则低精度 rollout 与训练的偏差会污染梯度。
四、成绩单与怀疑
据美团自家基准:Terminal Bench v2.1 为 88.4(LongCat-2.0 为 70.8),AutomationBench 51.8(此前 15.8),BrowseComp 91.9,PaperBench 82.1。但 Program Bench 上为 25.5,榜首为 37。这些数字均为厂商自报,未经独立验证;目前仅通过 longcat.chat 与 API 提供,开源权重“即将发布”,技术报告尚未见到。
结语
LongCat-2.5 的价值不在单个分数,而在路线:长程 RL + 失败驱动的数据飞轮 + 低精度推理的工程一致性。等权重和技术报告到位,才能判断这套配方能否被社区复现。
- 点赞
- 收藏
- 关注作者
评论(0)