2020年华为云AI实战营—第一章学习率设置
【摘要】 AI等级:AI初心者AI技能树:空属性:被奖品吸引而来的围观群众在做第一课的时候课程要求需要model_name的参数值必须是resnet_v1_50、learning_rate_strategy的参数值不是20:0.001、准确率必须高于0.9结果按照文档一通操作下来发现准确率只有0.856771。由于啥都不懂,就随意的增加了训练次数,学习率改成了默认的0.002,发现正确率加到0.893...
AI等级:AI初心者
AI技能树:空
属性:被奖品吸引而来的围观群众
在做第一课的时候课程要求需要model_name的参数值必须是resnet_v1_50、learning_rate_strategy的参数值不是20:0.001、准确率必须高于0.9
结果按照文档一通操作下来发现准确率只有0.856771。
由于啥都不懂,就随意的增加了训练次数,学习率改成了默认的0.002,发现正确率加到0.893229
学习率改回0.001,发现正确率下降到了0.880208(产生了误解以为是学习率不是最优的)
参考CSDN的一篇《如何找到一个好的学习率》文章,了解了下学习率,发现是有一个相对极值的(learning_rate_strategy还跟batchsize有关,文档要求只改learning_rate_strategy应该是降低难度了)。
开始固定训练次数(40)试了0.001左右的几个学习率,发现0.001情况下效果最好,于是改变思路单增加训练次数,发现正确率稳步上升,在100次的时候达到90+的正确率。
【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)