用 CANN Bot 开发 Ascend C 算子:3 小时 vs 3 天,效率背后要算的另一笔账
一次完整的 Agent 算子开发流程
在 CANNBot 社区提供的免费昇腾云环境中(默认赠送 100 卡时),创建 NPU 环境后进入 WebIDE,环境会自动拉取最新的 cannbot-skills 代码仓。启动 opencode 后,默认挂载的是免费大模型(Big Pickle),但实际编码效果可能不够理想,可以通过 /connect 切换到 DeepSeek 等更强的模型。
本次目标是实现一个 atanh 算子,规格为:单输入单输出,四维 shape [N4, N3, N2, N1],数据类型 float16,Format ND,目标芯片昇腾 910B3,使用 Ascend C 框架。对应的 Prompt 需要把这些规格完整、结构化地表达出来——Agent 不会替你“猜”算子需求,Prompt 质量直接决定产出质量。
Agent 开发过程约 3 个小时,产出物包括:算子二进制包、集成到 PyTorch 的动态算子库 .so 文件,以及编译运行脚本和性能测试数据。对比从零手写 Ascend C 算子通常以“天”计的周期,这个速度是实质性的提升。
效率的另一面:Token 成本和“信任成本”
Agent 跑完 3 小时,消耗的 Token 量并不低。按所用大模型的价格,一般建议账号预充 10–20 元量级,过程中需要注意余额和权限确认。这是显性成本,容易算。
隐性成本在于产出物的可信度验证。Agent 生成的算子能编译、能跑性能测试,不等于它在所有边界条件下都正确。float16 的精度行为、四维 shape 在极端维度下的索引边界、与 PyTorch 参考实现的逐元素对比——这些验证步骤 Agent 可以部分完成,但验证标准的定义和最终确认仍然需要人来做。把 Agent 定位成“把 3 天的手写过程压缩到 3 小时的初稿生成器”,而不是“直接交付可上线的算子”,是更可持续的使用方式。
踩坑小结
CANNBot 真正的价值不在于“替你写代码”,而在于把 Ascend C 的工程脚手架成本大幅降低。你仍然需要理解算子的数学定义、数据布局和精度要求,但不再需要从零搭建环境、编写重复的编译脚本和测试桩。用得好不好,分水岭在于:你是否愿意把省下来的时间投入到验证和边界分析上,而不是急着把 Agent 的产出直接合入。
- 点赞
- 收藏
- 关注作者
评论(0)