飞桨x昇腾生态适配方案：00_整体方案介绍
【摘要】 前言本文重点介绍Paddle与NPU的适配工作，PaddlePaddle是一个深度学习框架，类似于pytorch；PaddleCustomDeviece是适配层代码，类似于pytorch adapter；模型侧代码根据领域分为PaddleNLP、PaddleMix、PaddleClas、PaddleOCR等。
前言
- 本文重点介绍Paddle与NPU的适配工作，PaddlePaddle是一个深度学习框架，类似于pytorch；PaddleCustomDeviece是适配层代码，类似于pytorch adapter；模型侧代码根据领域分为PaddleNLP、PaddleMix、PaddleClas、PaddleOCR等。
- 如果需要运行在线的训练或者推理，可以直接参考模型仓的README，并更改deviece为NPU即可。当前已经支持了大部分主流模型且在持续增加中，具体的模型列表可参照，大部分模型的性能基本持平V100，少部分专项调优模型可以达到0.8*A800（主要是大模型，多模态）。
- 如果在线推理性能较差且只需要推理的场景，统一建议使用离线场景，Paddle2ONNX工具转化为ONNX，并使用atc转换为OM，具体可参照Paddle转OM以及离线推理章节内容。
硬件适配说明
- 当前的适配工作主要针对A2芯片，以下所有内容如果没有特殊说明都只针对A2芯片；
- A1芯片在大部分情况下没有问题，且使用方式与A2相同，如遇到类似项目可自行使用相同方式进行验证，遇到问题单点支撑；
- 310系列芯片没有进行过适配，建议直接走离线推理路径。
常用Paddle模型仓
- NLP代码仓PaddleNLP：https://github.com/PaddlePaddle/PaddleNLP
- 多模态代码仓PaddleMIX：https://github.com/PaddlePaddle/PaddleMIX
- 小模型总体仓库PaddleX：https://github.com/PaddlePaddle/PaddleX
- 其余仓库可查看Paddle主页面：https://github.com/PaddlePaddle
【声明】本内容来自华为云开发者社区博主，不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源（华为云社区）、文章链接、文章作者等基本信息，否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容，欢迎发送邮件进行举报，并提供相关证据，一经查实，本社区将立刻删除涉嫌侵权内容，举报邮箱：
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论（0）