【2023 · CANN训练营第一季】MindSpore模型快速调优攻略 第四章——MindSpore调试调优实践

举报
STRUGGLE_xlf 发表于 2023/05/26 11:42:09 2023/05/26
3.4k+ 0 0
【摘要】 模型一键迁移情感分析:对带有情感色彩的主观性文本进行分析、处理、归纳和推理的过程。BERT(Bidirectional Encoder Representations from Transformers)是由Google提出的具有里程碑意义的自然语言理解模型,BERT能够充分利用海量的无标注数据对模型进行预训练,另模型学习到大量的语言知识。基于预训练先验知识的情况下,通过在下游任务上进行微...

模型一键迁移

情感分析:对带有情感色彩的主观性文本进行分析、处理、归纳和推理的过程。
BERT(Bidirectional Encoder Representations from Transformers)是由Google提出的具有里程碑意义的自然语言理解模型,BERT能够充分利用海量的无标注数据对模型进行预训练,另模型学习到大量的语言知识。基于预训练先验知识的情况下,通过在下游任务上进行微调,即可达到较好的效果。

模型下载路径:
mindconverter --model_file bert_zh.onnx \ --shape 1,512 1,512 1,512 \ --input_nodes input_ids attention_mask token_type_ids \ --output_nodes output_0 output_1

执行该命令后,转换后的文件保存在当前目录下的output目录中(转换时间约3~5分钟)。

动静统一开发模式

image.png
image.png

训练过程可视化

使用MindInsight观测训练过程
image.png
使用MindInsight观测性能数据
image.png

学习推荐

• MindSpore架构:MindSpore架构
• MindInsight架构:MindInsight架构
• MindConverter使用指南:MindConverter使用指南
• 调试器使用指南:调试器使用指南
• 性能调试器使用指南:性能调试器使用指南

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

作者其他文章

评论(0

抱歉,系统识别当前为高风险访问,暂不支持该操作

    全部回复

    上滑加载中

    设置昵称

    在此一键设置昵称,即可参与社区互动!

    *长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

    *长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。