CANN训练营第三季_昇腾CANN算子精讲课_TBE算子Sinh开发笔记_算子开发（二）
1.作业算子要求
2.检查版本对应关系
在Mindstudio软件包下载界面可以检查安装的mindstudio版本和cann版本是否一致，如果不一致可能会导致后面算子工程创建出错。
这里我用的MindStudio5.0RC3对应的CANN商用版本为6.0RC1，我使用6.0.RC1.alpha001也没有问题。
查看CANN版本
cd /usr/local/Ascend/ascend-toolkit/latest/x86-64-linux
cat ascend_toolkit_install.info
3.安装算子开发依赖
pip3 install xlrd==1.2.0 --user
pip3 install gnureadline --user
pip3 install absl-py --user
pip3 install coverage --user
pip3 install jinja2 --user
pip3 install onnx --user
pip3 install tensorflow==1.15.0 --user
pip3 install python-csv --user
pip3 install google --user
(使用root开发算子的话不需要加–user)
参考：https://www.hiascend.com/document/detail/zh/mindstudio/50RC3/msug/msug_000392.html
4.打开软件
cd MindStudio/bin./MindStudio.sh
./MindStudio.sh
5.配置算子工程
这里可以根据实际上硬件选择昇腾310或者910，我的环境里面只有310。
成功配置的工程目录里面应该有除了testcases之外的所有目录。
6.配置python环境
因为我的python3.7.5是云服务器系统配置时自带的，CANN是后面自己安装的，导致Mindstudio在运行python找不到tbe库。
我在菜单栏File – Project Structure – SDKS,配置env环境，包含所有路径。（可选，如果不存在这个问题可以不用配置虚拟环境）
在modules里面添加env环境，python解析器就配置好了。
7.算子开发
1) 原型定义（注册）
sin.h
文件路径Sinh/framework/op_proto/sin.h
#ifndef GE_OP_SINH_H
#define GE_OP_SINH_H
#include "graph/operator_reg.h"
namespace ge {
REG_OP(Sinh)
.INPUT(x, TensorType({DT_FLOAT16}))
.OUTPUT(y, TensorType({DT_FLOAT16}))
.OP_END_FACTORY_REG(Sinh)
}
#endif //GE_OP_SINH_H
2）原型实现
sinh.cc
文件路径Sinh/framework/op_proto/sin.cc
#include "sinh.h"
namespace ge {
IMPLEMT_COMMON_INFERFUNC(SinhInferShape)
{
auto input_x = op.GetInputDescByName("x");
auto input_type = input_x.GetDataType();
auto input_shape = input_x.GetShape();
auto out_y = op.GetOutputDescByName("y");
out_y.SetDataType(input_type);
out_y.SetShape(input_shape);
op.UpdateOutputDesc("y",out_y);
return GRAPH_SUCCESS;
}
IMPLEMT_VERIFIER(Sinh, SinhVerify)
{
DataType input_type_x = op.GetInputDescByName("x").GetDataType();
DataType input_type_y = op.GetInputDescByName("y").GetDataType();
if (input_type_x != input_type_y) {
return GRAPH_FAILED;
}
return GRAPH_SUCCESS;
}
COMMON_INFER_FUNC_REG(Sinh, SinhInferShape);
VERIFY_FUNC_REG(Sinh, SinhVerify);
} // namespace ge
3)算子实现
sinh.py
文件路径：Sinh/tbe/impl/sinh.py
import tbe.dsl as tbe
from tbe import tvm
from tbe.common.register import register_op_compute
from tbe.common.utils import para_check
@register_op_compute("sinh")
def sinh_compute(x, y, kernel_name="sinh"):
input_type = x.dtype
input_shape = x.shape
half_tensor =tbe.broadcast(0.5,input_shape,input_type)
res_exp1 = tbe.vexp(x)
res_exp2 = tbe.vrec(res_exp1)
res_sub = tbe.vsub(res_exp1,res_exp2)
res = tbe.vmul(res_sub,half_tensor)
return res
@para_check.check_op_params(para_check.REQUIRED_INPUT, para_check.REQUIRED_OUTPUT, para_check.KERNEL_NAME)
def sinh(x, y, kernel_name="sinh"):
data_x = tvm.placeholder(x.get("shape"), dtype=x.get("dtype"), name="data_x")
res = sinh_compute(data_x, y, kernel_name)
# auto schedule
with tvm.target.cce():
schedule = tbe.auto_schedule(res)
# operator build
config = {"name": kernel_name,
"tensor_list": [data_x, res]}
tbe.build(schedule, config)
4)算子调试
sinh_debug.py
文件路径：Sinh/sinh_debug.py
import tbe.dsl as tbe
from tbe import tvm
from tbe.common.testing.testing import *
import numpy as np
def sinh_test():
with debug():
ctx = get_ctx()
x_value = tvm.nd.array(np.random.uniform(size=[2,2]).astype("float16"),ctx)
print("x_value = ", x_value)
out = tvm.nd.array(np.zeros([2,2],dtype="float16"),ctx)
x_placeholder = tvm.placeholder([2,2],name="data_1",dtype="float16")
half_tensor =tbe.broadcast(0.5,x_placeholder.shape,"float16")
res_exp1 = tbe.vexp(x_placeholder)
print_tensor(res_exp1)
res_exp2 = tbe.vrec(res_exp1)
print_tensor(res_exp2)
res_sub = tbe.vsub(res_exp1,res_exp2)
print_tensor(res_sub)
res = tbe.vmul(res_sub,half_tensor)
print_tensor(res)
desired = np.sinh(x_value.asnumpy())
print('desired =',desired)
assert_allclose(res,desired, tol=[1e-3,1e-3])
op_test = tvm.create_schedule(res.op)
build(op_test,[x_placeholder,res],name="sin_test")
run(x_value,out)
if __name__ == "__main__":
sinh_test()
sinh_debug.py运行方法
5）算子信息库定义(自动生成，这里不用改）
sinh.ini
Sinh/tbe/op_info_cfg.ai_core/ascend310/sin.ini
[Sinh]
input0.name=x
input0.dtype=float16
input0.paramType=required
input0.format=ND
output0.name=y
output0.dtype=float16
output0.paramType=required
output0.format=ND
opFile.value=sinh
opInterface.value=sinh
6）算子适配插件信息(自动生成，这里不用改）
tensorflow_sinh_plugin.cc
文件路径Sinh/framework/tf_plugin/tensorflow_sinh_plugin.cc
namespace domi {
// register op info to GE
REGISTER_CUSTOM_OP("Sin")
.FrameworkType(TENSORFLOW) // type: CAFFE, TENSORFLOW
.OriginOpType("Sin") // name in tf module
.ParseParamsByOperatorFn(AutoMappingByOpFn);
} // namespace domi
7)UT测试（作业可选）
参考：https://www.hiascend.com/document/detail/zh/mindstudio/50RC2/msug/msug_000125.html
8)ST测试
ST测试是实际在硬件上运行编译的算子的测试方法。当算子调试、UT测试、ST测试三种结果精度不同时，以ST测试为准。
参考：
https://www.hiascend.com/document/detail/zh/mindstudio/50RC2/msug/msug_000130.html
参数配置
ST测试正确运行结果：
9)碰到问题：
1.ST测试运行时，因为我的驱动版本为服务器自带的旧版驱动，导致报错[ERROR] Failed to set device.，
卸载旧的驱动，并安装自己服务器匹配的驱动版本即可。
a) 查看硬件驱动没装好，npu-smi
b) 在原安装文件下卸载原驱动
<install-path>/driver/script/uninstall.sh
c) 找到新版本的驱动
d) 安装新驱动
./A300-3010-npu-driver_5.1.rc2_linux-x86_64.run --check
./A300-3010-npu-driver_5.1.rc2_linux-x86_64.run --full
e) 查看新驱动是否装好，npu-smi
2. import pandas 失败报错
/usr/local/python3.7.5/lib/python3.7/site-packages/pandas/compat/__init__.py:124: UserWarning: Could not import the lzma module. Your installed Python is incomplete. Attempting to use lzma compression will result in a RuntimeError.
apt install -y liblzma-dev
pip3 install backports.lzma
sudo find -name lzma.py
vim {路径}/lzma.py
将：
from _lzma import *
from _lzma import _encode_filter_properties, _decode_filter_properties
更改为：
try:
from _lzma import *
from _lzma import _encode_filter_properties, _decode_filter_properties
except ImportError:
from backports.lzma import *
- 点赞
- 收藏
- 关注作者
评论（0）