2020年华为云AI实战营—第一章学习率设置

举报
飞飞2020 发表于 2020/05/23 19:37:05 2020/05/23
【摘要】 AI等级:AI初心者AI技能树:空属性:被奖品吸引而来的围观群众在做第一课的时候课程要求需要model_name的参数值必须是resnet_v1_50、learning_rate_strategy的参数值不是20:0.001、准确率必须高于0.9结果按照文档一通操作下来发现准确率只有0.856771。由于啥都不懂,就随意的增加了训练次数,学习率改成了默认的0.002,发现正确率加到0.893...

AI等级:AI初心者

AI技能树:空

属性:被奖品吸引而来的围观群众

在做第一课的时候课程要求需要model_name的参数值必须是resnet_v1_50、learning_rate_strategy的参数值不是20:0.001、准确率必须高于0.9

结果按照文档一通操作下来发现准确率只有0.856771。

由于啥都不懂,就随意的增加了训练次数,学习率改成了默认的0.002,发现正确率加到0.893229

学习率改回0.001,发现正确率下降到了0.880208(产生了误解以为是学习率不是最优的)

参考CSDN的一篇《如何找到一个好的学习率》文章,了解了下学习率,发现是有一个相对极值的(learning_rate_strategy还跟batchsize有关,文档要求只改learning_rate_strategy应该是降低难度了)。

开始固定训练次数(40)试了0.001左右的几个学习率,发现0.001情况下效果最好,于是改变思路单增加训练次数,发现正确率稳步上升,在100次的时候达到90+的正确率。


【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。