昇腾AI互动式学习路径第三阶段 结构图汇总（二）
【摘要】 昇腾AI互动式学习路径https://edu.huaweicloud.com/programs/ascend_zone.html第三阶段：昇腾PyTorch迁移学员将对昇腾PyTorch迁移开发全流程、迁移方法以及性能精度调优方法有个全面认识。除此之外，学员还能通过实践任务体验昇腾PyTorch经典视觉、音频以及自然语言处理模型开发流程。数据并行Attention模块的张量并行LayerNo...
昇腾AI互动式学习路径
https://edu.huaweicloud.com/programs/ascend_zone.html
第三阶段：昇腾PyTorch迁移
学员将对昇腾PyTorch迁移开发全流程、迁移方法以及性能精度调优方法有个全面认识。除此之外，学员还能通过实践任务体验昇腾PyTorch经典视觉、音频以及自然语言处理模型开发流程。
数据并行
Attention模块的张量并行
LayerNorm和Dropout序列并行
基于IEEE 754标准的FP32格式
FP16
BF16(bfloat16)
张量并行中的词嵌入层
张量并行中的线性层列切分
张量并行中的线性层行切分
OpenPose pipeline
ShuffleNet v1与ShuffleNet v2的基本单元对比示意图
YOLOV9 PGI（Programmable Gradient Information）结构
GELAN（Generalized Efficient Layer Aggregation Network）
CLIP模型架构以及模型训练的方式
EfficientNet模型结构图
EfficientNet MBConv-SE模块
ViT流程图
Bert模型结构图
BEiT模型结构图
【声明】本内容来自华为云开发者社区博主，不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源（华为云社区）、文章链接、文章作者等基本信息，否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容，欢迎发送邮件进行举报，并提供相关证据，一经查实，本社区将立刻删除涉嫌侵权内容，举报邮箱：
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论（0）