CANN Runtime，走向开源

在 AI 计算软件栈中，Runtime 是底层很重要、却往往很少被讨论的一层。但过去几年，AI 计算正在发生两件显著变化：

· 模型规模与系统复杂度急剧上升：大模型、多卡、多进程、异构并行成为常态

· 底层能力越来越重要：内存复用、调度并发、执行确定性、可观测性，正在决定系统上限

在这个背景下，Runtime 已不再只是“框架的下层实现”，而是逐步演进为AI 基础软件中重要的底层设施。

CANN Runtime，正是面向这一趋势持续演进的运行时能力平台。它承担着 Ascend 计算平台中 执行管理、算力调度、核函数运行、内存管理与系统稳定性 等关键职责，支撑着从训练到推理的多样化场景。

而现在，是时候让这些能力 从“内部使用”走向“社区共建”。

CANN Runtime 开源，意味着什么？

这并不是一次简单的“代码公开”。我们更希望推动的是一次 运行时能力的开放与协作：

· 透明的底层机制
Context、Stream、Kernel、Memory 的真实实现不再是黑盒，开发者可以真正理解运行时如何工作。

· 可演进的架构设计
面向多芯片、多形态、分布式与未来硬件的 Runtime 抽象，将在社区中持续打磨。

· 低门槛的参与方式
不需要从头造轮子，你可以从一个调度策略、一个内存优化、一个可观测性改进开始。

· 开放的生态协同
Runtime 不只是“服务某一个框架”，而是为更广泛的 AI 软件生态提供通用能力。

直播内容

在这场直播中，专家将详细解读以下内容：

1. CANN Runtime 开源介绍

2. Runtime编程模型和API说明

非常欢迎开发者朋友们在公众号评论区提出你们关心的问题，我们会将这些问题收集起来，在专场直播中为大家进行解答。

关注昇腾CANN公众号，及时获取直播时间与观看链接，相信通过这次直播，大家会对CANN Runtime有更深入的了解，为昇腾芯片的应用开发带来更多的创新和突破！