为什么要构建人工智能嵌入式数字基座？我们如何去借助欧拉和海思去构建这个数字基座？相关的无人装备应用场景是什么？本文将从这三方面来进行阐述和交流。

一、产业：我国人工智能产业发展

1.1 我国人工智能发展迅猛

首先我们看一下最新的数据，全球ChartGPT发展以来，人工大模型的发展是非常繁荣的。在我国，大模型的市场发展也是非常快的。中国生成式人工智能市场预测数据显示，第一阶段(2023-2025年)：年增长率25%，市场规模达318亿；第二阶段(2025-2027年)：年复合增长率超70%，产业规模超过600亿人民币；第三阶段(2028年以后)：形成完整产业链，深刻改变商业化应用场景。

另外，中国人工智能市场趋势分析相关数据显示，市场规模预测(2021-2026)：从51亿美元增长至211亿美元；驱动力分析：数据、算法、算力三大要素塑造人工智能发展；全球领先地位：我国数据规模增速居全球首位。

1.2 云边端算力加速，嵌入式底座的“摩尔定律”

从整个嵌入式的发展来看，数字底座其实也遵循了一个很强的摩尔定律，我们从数据能看到中国智能算力规模在持续的增长。AI的发展主要依赖两个领域的创新，一是模仿人脑建立的数学模型和算法，二是AI芯片等算力发展，均属于产业链上游环节(基础层)。在AI领域，数据、算法、算力被称为三大要素，如今各类大模型动辄数亿的参数量，也对算力要素提出更高的要求。

同时，我们把整个芯片的增长也分成两部分。一部分是在服务器端进行训练的芯片，另外一部分是推理芯片。现在更多的图形方案，是侧重在推理芯片上。

训练芯片：通过大量的数据输入，构建复杂的深神经网络模型的一种AI芯片。需要较高的计算性能、能够处理海量的数据、具有一定的通用性，以便完成各种各样的学习任务，注重绝对的计算能力。

推理芯片：推理芯片主要是指利用训练出来的模型加载数据，计算“推理”出各种结论的一种Al芯片，注重综合指标，侧重考虑单位能耗算力、时延、成本等性能。

1.3 全场景化的芯片与操作系统，构建智能底座

那么如何用全场景化的芯片和操作系统去构建智能基座呢？这是一个重要的话题。AI芯片是AI算力的核心，其中训练芯片旨在训练出复杂的神经网络模型，而推理芯片旨在利用模型“推理”出各种结论。2022年中国AI芯片份额中，训练芯片占比47.2%，推理芯片占比52.8%。

统一操作系统，向上：支撑行业全场景落地；向下：覆盖国内多样性芯片。全场景openEuler，作为智能底座的操作系统平台，同样助力软件基础平台统一。

1.4 端侧场景特点

我们认为端侧计算可能有四点值得大家注意。第一个是实时性，就是在工业控制和各种场景上，实时性是嵌入式想要的第一个场景；第二个是隐私性，它需要更多隐私性和安全性的部署；第三个是大流量，就是更多的一种海量的芯片嵌入到系统里面，呈现一个大流量的部署；第四个是自治性，就是AI的自动完整性，它具有更多的人工智能的发展趋势。

二、技术：基于海思与openEuler的欧拉π

2.1 基于海思与openEuler的无人装备架构图

最近，我们在展台展示了无人狗跟无人机的一个场景构建。主要的展台场景是这样的，一个基于海思的无人机飞出去以后，它看到了一个目标苹果，对苹果这个目标进行识别。无人机自动识别出苹果以后，它传递信号给无人狗，无人狗进行一个有效的对目标的跟踪和识别。这套产品涉及到的核心技术是如下图所示的基于海思与openEuler的无人装备架构图。首先，在国产海思芯片上要部署各种传感器，包括边缘侧的支撑能力。同时，在虚拟化层部署分布式，包括协同部署能力以及跨平台进行资源隔离及资源通信的能力。另外，在两侧部署两种能力，一种是基于宏内核的能力，包括部署ROS、Open CV。另一种是基于硬实施的，全部进行一个适配。这些操作在无人机上得到了验证，协同机制使无人狗和无人机能够快速的进行协同部署。

2.2 海思高集成芯片：异构、功耗、算力

希望在未来的海思平台能支持更多的这种IDE的开发环境。

2.3 OpenEuler全场景操作系统助力云边协同

在展台中给大家展示了云边协同的管理场景。我们是基于K3S和K8S构建了一套云边管理协同，同时把所有的资源管理推动到展示大屏上。针对不同的硬件，形成分布式的管理模式。如无人狗，无人机，无人车这种不同的硬件平台，形成不同的管理。总之，OpenEuler全场景操作系统助力云边协同。

2.4 OpenEuler与海思分布式协同

2.5 openEuler嵌入式虚拟化

云虚拟化关注服务器的迁移、弹性资源分配、灵活管理；云时代的到来快速催生了虚拟化技术的部署和发展，虚拟起始于大型电商的内部技术革新迅速成长为一种公共服务，从而代替了服务器托管模式。

嵌入式虚拟化关注实时性、功能安全、可确定性和小尺寸多数是定制系统现在的云虚拟技术已经相对成熟，如果说云虚拟化是上一个技术风口，那么“物”虚拟化，也就是嵌入式虚拟化将会是下一个不容错过的技术风口。

2.6 JailHouse虚拟化及混合部署技术

三、场景：无人装备应用

最后，跟大家分享一个场景。它是一个我们现在跟无人机一个厂商合作的一个真实场景，它主要实现以下的一些功能。

1.山林巡逻

通过预配置能力，预先设置巡逻路线，智能无人机/无人车巡查集群搭载视觉和热成像摄像头，自动执行任务；

边缘集群负责管理巡查的部署和协调，以确保巡逻路线的均匀规划。

2.离线任务能力，确保信息不丢失

当巡查集群进入深山失去网路信号脱离中心管控时，集群通过边缘全自治机制，继续识别和采集数据。

3.发现火情，执行灭火任务

识别火情后由智能无人设备自行AI分析，进行灭火任务，同时通过边缘互通能力调配其他灭火智能设备支援。更快速、更智能。

4.返航报告

网络重联后将数据传送至中心，确保信息完整。

本文从产业：我国人工智能产业发展，技术：基于海思与openEuler的欧拉π，场景：无人装备应用这三个方面进行了介绍。

本文参与华为云社区【内容共创】活动第25期 。

任务26：操作系统大会 2023 崛起数字时代 引领数智未来 嵌入式技术分论坛