建议使用以下浏览器,以获得最佳体验。 IE 9.0+以上版本 Chrome 31+ 谷歌浏览器 Firefox 30+ 火狐浏览器
设置昵称

在此一键设置昵称,即可参与社区互动!

确定
我再想想
选择版块
MindSpore 主题:3176帖子:10177

已解决

【 问题求助-API使用】

如何使用SGD里的param_group来实现学习率的衰减?

liqupr 2021/6/13 348

param_group = {'params': first_3d_conv_weight, 'lr': 5 if self.modality == 'Flow' else 1, 'weight_decay': 1},
            {'params': first_3d_conv_bias, 'lr': 10 if self.modality == 'Flow' else 2, 'weight_decay': 0},
            {'params': normal_weight, 'lr': 1, 'weight_decay': 1},
            {'params': normal_bias, 'lr': 2, 'weight_decay': 0},
            {'params': bn, 'lr': 1, 'weight_decay': 0}

将上述param_group传入SGD里的params  那么我应该怎么在每一个epoch根据对应的衰减策略修改对应的学习率呢?

回复2

Skytier
1 0
2021/6/13 21:28

用户您好,问题已经收到,正在联系技术支持分析,会尽快回复您的~

chengxiaoli

2021-6-21 08:56

用户您好,感谢您使用MindSpore。 您这里提出的问题我们的专家已给出解答,希望能够帮助您解决问题。因为较长时间未收到您的回应,所以这里对您的问题进行了结帖。 如果您有其他问题可以创建新的问题帖继续提问,谢谢您的支持~
... 展开
YC-毓
0 0
2021/6/17 16:51

你好,可以使用这里https://www.mindspore.cn/doc/api_python/zh-CN/r1.2/mindspore/mindspore.nn.html#dynamic-lr

step_per_epoch设置成step_size,就是按照epoch来变化。设置成1,就是每个step变化。

如果想按照step变化,也可以用LearningRateSchedule

https://www.mindspore.cn/doc/api_python/zh-CN/r1.2/mindspore/mindspore.nn.html#dynamic-learning-rate

上划加载中
直达楼层
标签
您还可以添加5个标签
  • 没有搜索到和“关键字”相关的标签
  • 云产品
  • 解决方案
  • 技术领域
  • 通用技术
  • 平台功能
取消

采纳成功

您已采纳当前回复为最佳回复

liqupr

发帖: 30粉丝: 0

发消息 + 关注

发表于2021年06月13日 15:17:49 348 2
直达本楼层的链接
楼主
显示全部楼层
[API使用] 如何使用SGD里的param_group来实现学习率的衰减?

param_group = {'params': first_3d_conv_weight, 'lr': 5 if self.modality == 'Flow' else 1, 'weight_decay': 1},
            {'params': first_3d_conv_bias, 'lr': 10 if self.modality == 'Flow' else 2, 'weight_decay': 0},
            {'params': normal_weight, 'lr': 1, 'weight_decay': 1},
            {'params': normal_bias, 'lr': 2, 'weight_decay': 0},
            {'params': bn, 'lr': 1, 'weight_decay': 0}

将上述param_group传入SGD里的params  那么我应该怎么在每一个epoch根据对应的衰减策略修改对应的学习率呢?

举报
分享

分享文章到朋友圈

分享文章到微博

采纳成功

您已采纳当前回复为最佳回复

Skytier

发帖: 53粉丝: 10

级别 : 版主,版块专家

发消息 + 关注

发表于2021年06月13日 21:28:59
直达本楼层的链接
沙发
显示全部楼层

用户您好,问题已经收到,正在联系技术支持分析,会尽快回复您的~

评论
chengxiaoli 2021-6-21 08:56 评论

用户您好,感谢您使用MindSpore。 您这里提出的问题我们的专家已给出解答,希望能够帮助您解决问题。因为较长时间未收到您的回应,所以这里对您的问题进行了结帖。 如果您有其他问题可以创建新的问题帖继续提问,谢谢您的支持~

... 查看全部
点赞 评论 引用 举报

采纳成功

您已采纳当前回复为最佳回复

YC-毓

发帖: 3粉丝: 1

发消息 + 关注

发表于2021年06月17日 16:51:26
直达本楼层的链接
板凳
显示全部楼层

你好,可以使用这里https://www.mindspore.cn/doc/api_python/zh-CN/r1.2/mindspore/mindspore.nn.html#dynamic-lr

step_per_epoch设置成step_size,就是按照epoch来变化。设置成1,就是每个step变化。

如果想按照step变化,也可以用LearningRateSchedule

https://www.mindspore.cn/doc/api_python/zh-CN/r1.2/mindspore/mindspore.nn.html#dynamic-learning-rate

点赞 评论 引用 举报

游客

富文本
Markdown
您需要登录后才可以回帖 登录 | 立即注册

邀请回答
您可以邀请3位专家

结贴

您对问题的回复是否满意?
满意度
非常满意 满意 一般 不满意
我要反馈
0/200