华为Atlas 500小站AI应用运行环境搭建
1 Atlas 500概述
基于华为Ascend处理器开发AI应用程序,一般需要搭建开发环境和运行环境。开发环境可以在非昇腾设备和昇腾设备上进行搭建。而运行环境则需要在昇腾AI设备上进行搭建。其中的 Atlas 500 是华为面向广泛边缘应用场景的轻量边缘设备,具有超强计算性能、大容量存储、配置灵活、体积小、支持温度范围宽、环境适应性强、易于维护管理等特点。它主要应用在智能视频监控、分析、数据存储等应用场景,可以广泛部署在各类边缘、中心机房,满足在社区、园区、商场、超市等复杂环境区域的应用。关于各类硬件设备,可以参考官网:https://www.hiascend.com/document?tag=hardware 。示意图如下:
而关于 Atlas 500 的相关文档,可以参考官网网址为:https://support.huawei.com/enterprise/zh/doc/EDOC1100133176/a5345f24 。官网给出的产品特定如下:
边缘场景易用性
实时性:它可以在本地处理数据,提供实时的响应。
低带宽:只将必要的信息传送到云上。
隐私保护:客户可以决定要传送到云上和保留在本地的信息。所有传送到云上的信息都是可以加密的。
支持标准容器引擎,支持第三方算法和应用快速部署。
16路视频分析和存储能力
支持16路视频分析能力(最大16路1080p解码,22TOPS INT8算力)。
支持12TB存储容量,16路1080p@4Mb码流视频缓存7天,8路1080p@4Mb码流视频缓存30天。
极强环境适应能力,边缘环境部署
工业防护等级:IP40。
无风扇设计,支持-40℃~+70℃宽温度工作环境。
灵活选配,无线回传
支持选配3G或4G模块(无线回传)。
可靠性高
系统内所有固件均有双镜像备份,故障时可自动进行主备区切换。
支持软件、硬件故障检测与告警。
提供双机解决方案,内置双机备份软件,支持两台Atlas 500 智能小站组成双机备份系统,单台Atlas 500 智能小站故障时自动发起倒换。
Atlas 500 智能小站的逻辑架构如下图所示:
其中处理器为华为自研海思Hi3559A,可通过扩展Atlas 200 AI加速模块(可选),最大提供22TOPS INT8算力。Atlas 500 智能小站应用场景众多,典型架构如下:
端:通过无线或有线连接IPC(IP Camera)或其他前端设备。
边:边缘实现价值信息提取、存储和上传。
云:数据中心模型推送、管理、开发和应用。
应用场景典型架构示意图如下所示:
2 Atlas 500 初始配置
如果手头有一台Atlas 500 智能小站设备,需要根据官方文档进行软硬件的安装,其中涉及到电源线、网线等的安装。连接电源线缆,待机状态下,短按Atlas 500 智能小站前面板上的电源按钮,将Atlas 500 智能小站上电,启动设备,这个过程稍等片刻,直至健康指示灯呈绿色常亮。Atlas 500 智能小站前面板示意图如下图所示:
注意:目前的Atlas 500 智能小站的有些接口是预留接口,如HDMI接口,还不能使用。另外,如果需要复位,则需要按照官网文档进行复位操作,网址为https://support.huawei.com/enterprise/zh/doc/EDOC1100133176/f93c9256。在设备上电状态下,长按按钮10秒及以上,设备复位重启,并恢复出厂设置。复位重启按钮如下图红色框中所示:
官网给出Atlas 500 智能边缘管理系统提供的默认参数如下图所示,为保证系统安全性,建议您在首次操作时修改初始参数值,并定期更新。
Atlas 500 智能小站出厂预装华为自研的Euler操作系统,用户无需安装操作系统。用户可通过浏览器登录Atlas 500 智能边缘管理系统,进行初始配置。打开浏览器(使用Google Chrome 69及以上),输入如下网址进行访问Atlas IES WebUI:
注意:在访问之前,需要正确连接网线,将PC端网口IP地址设置为与智能小站管理网口IP地址在同一网段内。确保正确配置路由使两者能够互通。
初始访问时,可以按照初始密码进行登录,登录后,重新设置密码即可。重新登录后,进入主页面:
在Atlas IES WebUI可以设置IP地址,升级固件和查看系统信息等操作。而对于一些命令行相关的配置,可以使用PuTTY工具,可以通过局域网远程访问设备,对设备实施配置、维护操作。示意图如下:
如果首次登录该目标设备,则会弹出“PuTTY Security Alert”窗口。单击“是”表示信任此站点,进入“PuTTY”运行界面。使用SSH登录IES命令行界面(admin用户),一开始并不能输入常规的Linux命令,需要进入开发者模式(获取root权限)才行:
develop
IES:/->develop
input root passwd
Password:
Euler:~ # 可以输入Linux命令,类似于CentOS
注意:默认情况下,IES命令行有一个超时时间,会自动关闭命令行。这里可以执行如下命令设置永不超时:timeout 0 和 TMOUT=0 。
另外,可以根据需要开启sftp功能,执行如下命令:
ES:/->sftp enable
set enable success.
这样就可以通过sftp功能从Windows操作系统上上传文件到Atlas 500小站上的 /tmp目录中。
3 Atlas 500 运行环境
Atlas 500 智能小站有两个型号,即A500-3000(Atlas 500 智能小站(型号 3000))和A500-3010(Atlas 500 智能小站(型号 3010)),如两个型号内容一致,则不作区分,产品名称统称为Atlas 500 智能小站。Atlas 500 智能小站仅支持作为运行环境。其AI应用开发环境和运行环境逻辑结构示意图如下所示:
从图中可以知道,Atlas 500 智能小站已经预装了fireware固件和驱动driver,另外,需要注意一下,拿到手的Atlas 500 智能小站的固件版本,根据情况需要升级一下。否则可能无法运行相关应用。
另外,内置了Python3环境,但是没有pip3,因此需要手动进行安装:
wget https://bootstrap.pypa.io/get-pip.py # 下载安装脚本
python3 get-pip.py # 运行安装脚本
然后执行如下命令安装依赖以及运行示例:
#上传文件
sftp> put K:\atlas500_proj\resnet50_imagenet_classification.tar /tmp
sftp> put K:\atlas500_proj\get-pip.py /tmp
#配置Atlas 500 pip源
mkdir ~/.pip
cd ~/.pip
vi pip.conf
[install]
#可信主机,请根据实际情况进行替换。
trusted-host=repo.huaweicloud.com
[global]
#可用的源,请根据实际情况进行替换。
index-url=https://repo.huaweicloud.com/repository/pypi/simple
#安装依赖
pip3 install numpy
pip3 install pillow
#运行示例
Euler:/tmp/resnet50_imagenet_classification # python3 ./src/acl_net.py
Using device id:0
model path:./model/resnet50.om
images path:./data
init resource stage:
model_id:1
init resource success
images:./data/dog2_1024_683.jpg
data interaction from host to device
data interaction from host to device success
execute stage:
execute stage success
data interaction from device to host
data interaction from device to host success
======== top5 inference results: =============
[108]: 0.332764
[611]: 0.284668
[973]: 0.103943
[549]: 0.096863
[620]: 0.027756
images:./data/dog1_1024_683.jpg
data interaction from host to device
data interaction from host to device success
execute stage:
execute stage success
data interaction from device to host
data interaction from device to host success
======== top5 inference results: =============
[549]: 0.808105
[868]: 0.103577
[611]: 0.032349
[584]: 0.013908
[679]: 0.009338
*****run finish******
Releasing resources stage:
Resources released successfully.
最后,给出一个不同场景RC模式和EP模式的示意图:
- 点赞
- 收藏
- 关注作者
评论(0)