msame推理工具使用之动态shape)

msame工具使用(动态shape)

              由于使用该工具测试含动态shape的模型的时候,走了一些弯路,顾写下该分享文档。

环境:

CANN:5.0.3alpha001

工具下载、编译、使用如下链接

https://gitee.com/ascend/tools/tree/master/msame

模型

1、模型转换

指令:

atc --model=./xxx.pb --framework=3 --output=./detection --soc_version=Ascend310 --input_shape_range="image_tensor:[-1,-1,-1,3]" --out_nodes="xxx_boxes:0;xxx_scores:0;xxx_classes:0"

2、数据生成(随机数据)

3、工具推理(主要指令容易写错)

./msame  --model "/home/cqs/model/detection.om"  --input  "/home/cqs/model/data"   --dymShape  "image_tensor:10,416,416,3" --outputSize "10000,10000,10000" --output "/home/tools/msame/out" --outfmt BIN

./msame  --model "/home/cqs/model/detection.om"  --input  "/home/cqs/model/data_10bs_512.bin"   --dymShape  "image_tensor:20,512,512,3" --outputSize "10000,10000,10000" --output "/home/tools/msame/out" --outfmt BIN