编码 Agent 与计算机使用 Agent

举报
yd_287713361 发表于 2026/10/28 21:28:59 2026/10/28
【摘要】 编码 Agent 与计算机使用 Agent

原文链接:https://mp.weixin.qq.com/s/lj-sG3dEqErP0VBSKLWhIQ

本文首发于微信公众号「月牙寂」,此处为同步转载。

人类作者:月牙寂(龚浩华)

Agent 作者:月绡凝(小凝)

定位:Agent 原理系列板块四·应用第 09 篇——编码 Agent 与计算机使用 Agent:目前落地最强、最受关注的两类 Agent,看构成/机制/训练原理如何在这里兑现(SWE-bench / OSWorld)。

免责声明:本文为学习与技术分享用途,技术细节以官方发布为准。

01SECTION

第 09 篇 · 编码 Agent 与计算机使用 Agent


02SECTION

导读


前 8 篇是「原理」,本篇看「兑现」:Agent 目前最值钱的两张应用牌——编码 Agent(改代码、提 PR,Claude Code/Cursor/Codex)和计算机使用 Agent(自己操作电脑手机,Claude Computer Use/AutoGLM)。它们把感知、推理、记忆、行动、训练(01-08 篇)全部串起来,是「数字员工」的雏形。

03SECTION

一、编码 Agent(Coding Agent)


1.1 是什么

•不是「自动补全一行」,而是独立完成软件工程任务:读代码库 → 定位问题 → 改代码 → 跑测试 → 提 PR;

•代表:Claude Code(终端 Agent)、Cursor(IDE Agent)、Codex(OpenAI)、Devin、Qwen3-Coder;

•基准:SWE-bench Verified(真实 GitHub issue 修复)——GPT-5 达 74.9%。

1.2 原理拆解(对照 01-08)

系统
在编码 Agent 里是什么
感知(01)
读代码库文件树、检索符号、看测试输出——代码即「世界」
推理(02)
定位 bug → 规划修复方案 → 反思测试为何红
记忆(03)
代码库索引(RAG)+ 会话上下文 + 项目约定
行动(04)
编辑文件、跑命令、执行测试、git 操作
训练(08)
agent RL 专门训练(Qwen3-Coder 480B / 各家 coding 模型)
安全(07)
写文件确认、命令白名单、断点回滚

1.3 关键工程:长程任务

•一个真实 issue 要十几步到几十步:改 5 个文件、跑 3 轮测试——长程目标保持是最大难点;

•解法:上下文工程(03 篇)+ 检查点续跑 + 失败反思重试(02 篇)+ agent RL 内化(08 篇)。

💡 学习要点:编码 Agent = 四大系统 × 长程训练的「集大成」它是感知(代码库)、推理(调试)、行动(git/测试)最密集的场景,也是 agent RL 回报最明显的场景——软件工程成了 Agent 的第一个成熟战场。

04SECTION

二、计算机使用 Agent(Computer-Use Agent,CUA)


2.1 是什么

•模型像人一样操作界面:看屏幕 → 决定点击/输入 → 执行 → 看结果(感知 01 篇的环境鸿沟在这里兑现);

•代表:Claude Computer Use(OSWorld 61.4%)、GPT-4o(agentic 视觉)、AutoGLM(手机)、浏览器 Agent(WebArena);

•应用:网页填表、跨应用整理、桌面自动化、手机操作。

2.2 原理拆解

系统
在 CUA 里是什么
感知
截图(视觉)+ UI 树(结构)双通道;理解界面语义(语义鸿沟三解法)
推理
分解任务(打开→定位→操作→校验)+ 界面出错后的反思
记忆
界面状态历史 + 任务目标保持
行动
点击(x,y)/输入文本/按键/滚动——「手脚」原语
训练
大量「截图→操作」轨迹数据 + agent RL(08 篇)

2.3 难度与趋势

•难点:界面动态变化、元素定位漂移、无 API 的老软件——比编码 Agent 更不稳定(OSWorld 66.3% 已是大进步,但离可靠还远);

•趋势:环境侧改造(AIOS「Computer as MCP Server」把界面变语义接口,衔接 05 篇)——让环境适应模型,可能是比「硬看截图」更稳的路线。

💡 学习要点:编码 Agent「稳」,CUA「广」编码世界结构化(有语法、有测试),所以 Agent 已可用;GUI 世界是像素,所以还在爬坡。谁能把「没有 API 的世界」语义化(MCP/环境改造),谁就解锁最大应用面。

05SECTION

三、两类 Agent 的对照与启示


维度
编码 Agent
CUA
环境
结构化(代码/测试/git)
非结构化(像素/界面)
成熟度
高(SWE-bench 74.9%)
中(OSWorld 66.3%)
关键瓶颈
长程任务保持
界面感知与定位
核心资产
代码库理解
视觉 + 界面操作
代表
Claude Code / Codex / Qwen3-Coder
Claude Computer Use / AutoGLM

•启示:Agent 的可用性 = 环境结构化程度——先把环境变语义(MCP/接口/测试),Agent 就好用一倍。

06SECTION

四、本篇要点(复习卡片)


1编码 Agent:读库→改码→跑测→提 PR 全链路;SWE-bench 74.9%;长程保持是难点。

2CUA:看屏幕→操作→校验循环;OSWorld 61.4%~66.3%;界面感知与定位是难点。

3原理复用:四大系统(01-04)× 训练(08)× 安全(07)全兑现——编码 Agent 是集大成。

4环境结构化是关键:编码世界已可用、GUI 世界在爬坡——环境改造(Computer as MCP Server)是杠杆。

5启示:Agent 可用性 = 环境结构化程度 + 长程训练强度。

07SECTION

五、下一篇预告


第 10 篇(板块四·应用):研究/搜索 Agent 与常驻 Agent——编码和 CUA 是「动手型」,本篇是「动脑型 + 后台型」:deep research(把调研做成产品)与常驻 Agent(监听/巡检/周期任务,长期在线干活)。Agent 从「干一票」到「一直干」。

08SECTION

参考资料


•[官方] Claude Code / Claude Computer Use:https://www.anthropic.com/news

•[官方] GPT-5(SWE-bench 74.9%):https://openai.com/index/introducing-gpt-5/

•[官方] Qwen3-Coder:https://qwenlm.github.io/blog/qwen3-coder/

•[官方] AIOS 1.0 / LiteCUA:https://arxiv.org/abs/2505.18829

•[参考] OSWorld 基准(Stanford/清华,2024-2025):https://osworld.stanford.edu/


整理:2026-10-01 月绡凝 · 依据官方发布说明。



【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0)

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。