HCIE-AI SA：行业模型选型

1.概述

本文介绍了开原模型选型，并详细分析了如何将基于PyTorch框架的模型迁移到昇腾服务器。

2. 目标

3. 模型迁移

模型迁移至NPU需要适配的原因：

4. 模型迁移的总体思路

① 迁移分析

任务确认、可行性分析

② 迁移适配

模型迁移、问题分析

③ 精度调试

精度分析、精度调优

④ 性能调优

性能分析、性能调优

5. 模型选型

6. 性能指标

7. 评测指标

8. 模型选择

9. 模型使用流程

10. PyTorch模型迁移分析

迁移支持度分析方法

模型是否可以迁移成功主要取决于模型算子知否支持昇腾 AI 处理器。

迁移分析工具

11. 迁移适配

模型保存和导出

12. 精度调试

12.1 精度调试流程

12.2 大模型精度问题主要来源

精度问题来源：

影响因素 – 超参数配置

12.3 精度调优方法

精度调优方法 – 数据集清洗

13. 性能调优

12.1 性能指标

13.2 通用优化方法

IO优化 – 数据加载优化

NPU亲和适配优化策略

融合算子替换

融合优化器

通信优化方法

14. 算子开发

14.1 算子开发工具

14.2 使用 Ascend C 进行自定义算子开发的优势

14.3 Ascend C编程技术特性

14.4 开发Ascend C算子的基本流程

14.5 Ascend C 完整开发流程

15. 总结

本文介绍了开原模型选型，并详细分析了如何将基于PyTorch框架的模型迁移到昇腾服务器，笔试占比8%。