Atlas 200DK 开发环境搭建

Atlas 200DK 开发环境搭建—模型推理

Atlas 200 DK主要包含Atlas 200 AI加速模块（型号 3000）、图像/音频接口芯片（Hi3559C）和LAN SWITCH或PHY三部分，系统架构如图1和图2所示。

Atlas 200 DK对外提供一个Type C接口类型USB接口，兼容USB 3.0（SuperSpeed），USB 2.0（HighSpeed）和USB 1.1（FullSpeed）通信协议。此接口只能作为Device模式使用，不支持Master模式，主要用来对接调试主机做加载调试用。
用户在使用Atlas 200 DK开发、运行AI应用程序前的准备工作，包括系统SD卡的制作，Atlas 200 DK与Ubuntu服务器的连接，开发工具的安装等。

开发工具 MindStudio包含了开发套件、以及各个工具模块（如模型管理工具、编译工具、日志工具等），其中开发套件提供了设备侧编译时所依赖的库文件，用户开发使用的工具、依赖库以及公共头文件等。

开发环境：官网下载安装免费VirtualBox

安装ubuntu18.04

安装增强功能

重启ubuntu

修改国内源

华为提供镜像 https://mirrors.huaweicloud.com/

sudo cp -a /etc/apt/sources.list /etc/apt/sources.list.bak  
sudo sed -i "s@http://.*archive.ubuntu.com@http://repo.huaweicloud.com@g" /etc/apt/sources.list  
sudo sed -i "s@http://.*security.ubuntu.com@http://repo.huaweicloud.com@g" /etc/apt/sources.list  
apt-get update  
apt-get install vim  
cd 
mkdir .pip
cd .pip
vim pip.conf

[global]
index-url = http://pypi.douban.com/simple/
[install]
trusted-host=pypi.douban.com

创建HwHiAiUser用户

groupadd HwHiAiUser
useradd -g HwHiAiUser -d /home/HwHiAiUser -m HwHiAiUser
passwd HwHiAiUser

安装python及相关依赖

sudo apt-get install -y gcc g++ make cmake unzip zlib1g-dev libbz2-dev libsqlite3-dev libssl-dev libxslt1-dev libffi-dev 

cd Python-3.7.5
./configure --prefix=/usr/local/python3.7.5 --enable-shared
make
sudo make install
sudo cp /usr/local/python3.7.5/lib/libpython3.7m.so.1.0 /usr/lib

sudo ln -s /usr/local/python3.7.5/bin/python3 /usr/bin/python3.7.5
sudo ln -s /usr/local/python3.7.5/bin/pip3 /usr/bin/pip3.7.5
sudo ln -s /usr/local/python3.7.5/bin/python3 /usr/bin/python3.7
sudo ln -s /usr/local/python3.7.5/bin/pip3 /usr/bin/pip3.7

python3.7.5 --version

apt-get -y install xterm openjdk-8-jdk fonts-wqy-zenhei fonts-wqy-microhei fonts-arphic-ukai fonts-arphic-uming
配置java路径
vi ~/.bashrc
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
export PATH=$JAVA_HOME/bin:$PATH
source ~/.bashrc
echo $JAVA_HOME

/usr/local/python3.7.5/bin/pip3 install --user  protobuf grpcio attrs numpy decorator sympy cffi coverage gnureadline pylint matplotlib psutil requests scipy xlrd PyQt5==5.14.0

200Dk环境搭建

参考文档：https://support.huaweicloud.com/environment-deployment-Atlas200DK1011/atlased_04_0012.html
下载：（三个包）

镜像：ubuntu-18.04.5-server-arm64.iso
驱动：A200dk-npu-driver-21.0.2-ubuntu18.04-aarch64-minirc.tar.gz
nnrt: Ascend-cann-nnrt_5.0.3.alpha001_linux-aarch64.run
驱动链接https://www.hiascend.com/hardware/firmware-drivers?tag=community

nnrt:配套版本https://gitee.com/ascend/tools/blob/master/makesd/Version_Mapping_CN.md

操作步骤

su - root
执行如下命令更新源：
apt-get update
执行如下命令安装相关python依赖：
pip3 install pyyaml
apt-get install qemu-user-static binfmt-support python3-yaml squashfs-tools gcc-aarch64-linux-gnu g++-aarch64-linux-gnu

2、下载制卡入口脚本“make_sd_card.py”。
wget https://gitee.com/ascend/tools/raw/master/makesd/for_1.0.11.alpha/make_sd_card.py
下载制作SD卡操作系统的脚本“make_ubuntu_sd.sh”。
wget https://gitee.com/ascend/tools/raw/master/makesd/for_1.0.11.alpha/make_ubuntu_sd.sh

按照实际需求 修改make_sd_card.py中网卡的ip

执行制卡脚本。
fdisk -l

运行脚本开始制卡python3 make_sd_card.py local /dev/sdb

制卡成功后，将SD卡插入200DK上电，然后用默认HwHiAiUser登录。

登录200DK

https://support.huaweicloud.com/environment-deployment-Atlas200DK1011/atlased_04_0017.html

修改HwHiAiUser默认密码：ascend310

root用户的缺省登录密码为Mind@123
修改root默认密码为ascend310

至此，环境搭建完毕。

安装CANN（开发环境与运行环境合设）

全程root用户下执行

参考下载配套cann包https://gitee.com/ascend/tools/blob/master/makesd/Version_Mapping_CN.md

安装OS依赖
sudo apt-get install -y gcc g++ make cmake zlib1g zlib1g-dev openssl libsqlite3-dev libssl-dev libffi-dev unzip pciutils net-tools libblas-dev gfortran libblas3 libopenblas-dev
安装python3.7.5再安装numpy等开源相关依赖，详细参考
https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/51RC1alpha005/softwareinstall/instg/atlasdeploy_03_0022.html

安装cann
./Ascend-cann-toolkit_{version}_linux-aarch64.run --install

设置环境变量
`
vi ~/.bashrc
添加
#用于设置python3.7.5库文件路径
export LD_LIBRARY_PATH=/usr/local/python3.7.5/lib:LD_LIBRARY_PATH #如果用户环境存在多个python3版本，则指定使用python3.7.5版本 export PATH=/usr/local/python3.7.5/bin:PATH

source /usr/local/Ascend/ascend-toolkit/set_env.sh
`

验证环境是否正常,可用atc
如下图即安装正常

安装docker

修改华为源https://mirrors.huaweicloud.com/home

cp -a /etc/apt/sources.list /etc/apt/sources.list.bak
wget -O /etc/apt/sources.list https://repo.huaweicloud.com/repository/conf/Ubuntu-Ports-bionic.list
apt-get update

安装docker链接https://docs.docker.com/engine/install/ubuntu/

 sudo apt-get update
 sudo apt-get install \
    ca-certificates \
    curl \
    gnupg \
    lsb-release

curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg

 echo \
  "deb [arch=$(dpkg --print-architecture) signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu \
  $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
  
 sudo apt-get update
 sudo apt-get install docker-ce docker-ce-cli containerd.io

至此，dokcer安装完成。

下载ascend推理镜像[https://ascendhub.huawei.com/#/detail/ascend-infer]
docker login xxxx(获取权限)
docker pull ascendhub.huawei.com/public-ascendhub/ascend-infer:5.0.3-ubuntu18.04

docker 推理模型

参考官方部署镜像https://support.huawei.com/enterprise/zh/doc/EDOC1100235020/84317213

根据实际情况修改docker启动命令

docker run -it --device=/dev/davinci0 --device=/dev/davinci_manager  --device=/dev/event_sched --device=/dev/upgrade --device=/dev/hi_dvpp --device=/dev/memory_bandwidth --device=/dev/ts_aisle -v /usr/local/Ascend/driver/tools:/usr/local/Ascend/driver/tools -v /usr/local/Ascend/driver/lib64:/usr/local/Ascend/driver/lib64 -v /usr/local/sbin/npu-smi:/usr/local/sbin/npu-smi -v /var/hdc_ppc:/var/hdc_ppc -v /etc/hdcBasic.cfg:/etc/hdcBasic.cfg -v /etc/rc.local:/etc/rc.local -v /sys:/sys -v /usr/bin/sudo:/usr/bin/sudo -v /usr/lib/sudo/:/usr/lib/sudo/ -v /etc/sudoers:/etc/sudoers/ -v /etc/sys_version.conf:/etc/sys_version.conf/ -v /home/bear:/home/bear  -v /var/slogd:/var/slogd -v /var/dmp_daemon:/var/dmp_daemon -v/usr/lib/:/usr/lib/   ascendhub.huawei.com/public-ascendhub/ascend-infer:5.0.3-ubuntu18.04  /bin/bash -c "/usr/local/Ascend/driver/tools/minirc_container_prepare.sh;/bin/bash"

mkdir –p /usr/slog
mkdir –p /run/driver
mkdir –p /var/driver

groupadd -g 1000 HwHiAiUser 
useradd -g HwHiAiUser -d /home/HwHiAiUser -m HwHiAiUser 
usermod -u 1000 HwHiAiUser 

/var/slogd
/var/dmp_daemon -I -U 8087 &

裸机上已成功推理，镜像推理过程缺少什么依赖，就挂载什么依赖