x86+nvidia 到 Arm+Atlas适配流程
一、适配流程:
1、测试环境搭建
2、CPU模块移植(x86 -> arm)
3、硬件加速模块适配
(1) 算法模型适配
(2) 流式任务编排
(3) 算法效果测试,根据测试效果决定是否反复进行硬件加速模块适配优化
4、系统整合测试
二、X86 -> Arm 跨平台测试环境
左侧是经典docker容器架构
右侧则是搭建的x86->Arm跨平台测试环境
利用qemu用户层的实现qemu-user-static,可以将Arm指令转换为X86运行指令,这样就可以使arm docker运行在x86系统上
具体实现方法可以参考我的csdn博客
《在x86服务器上 搭建基于docker的arm64程序编译和运行环境》
https://blog.csdn.net/u011337602/article/details/103810657
《arm64v8/ubuntu:18.04搭建华为ATLAS软件编译运行环境》
https://blog.csdn.net/u011337602/article/details/103909620
《基于arm64 docker的华为Atlas软件运行,Atlas device映射》
https://blog.csdn.net/u011337602/article/details/103911798
这样的环境 在x86上做简单的编译测试,在arm+atlas环境上可以做编译、测试、运行等环境,不需要再做移植
三、流程任务编排
利用Matrix框架,进行视频流任务编排
1、RtspAccess,视频流接入engine,获取视频流rawpacket
2、Decode,Atlas视频流硬解码,获取yuv数据
3、PreProcess图片数据预处理,预处理图片数据
4、Detection 目标检测模块
3和4可以做到一块,
5、ImageProcess 图像处理模块,主要是针对目标检测结果截取目标小图
6、Feature 提取目标特征
7、PostProcess 推理结果后处理
- 点赞
- 收藏
- 关注作者
评论(0)