运筹学(最优化理论)学习笔记 | 共轭梯度法

举报
格图洛书 发表于 2021/11/19 00:49:23 2021/11/19
【摘要】 最近博主复习了一下无约束问题最优化算法中的共轭梯度法。无约束问题最优化方法包括最速下降法、牛顿法、共轭梯度法、拟牛顿法等等。借用书中的一句话: 无约束优化问题的求解通过一系列一维搜索来实现。因此怎样选择搜索方向是解无约束问题的核心,搜索方向的不同选择,形成不同的最优化方法   既然我们说到搜索方向的不同选择会形...

最近博主复习了一下无约束问题最优化算法中的共轭梯度法。无约束问题最优化方法包括最速下降法、牛顿法、共轭梯度法、拟牛顿法等等。借用书中的一句话:

无约束优化问题的求解通过一系列一维搜索来实现。因此怎样选择搜索方向是解无约束问题的核心,搜索方向的不同选择,形成不同的最优化方法

 

既然我们说到搜索方向的不同选择会形成不同的最优化算法,那么今天复习的共轭梯度法是基于共轭方向的一种算法。那么问题来了,什么是共轭方向?

其实说白了两个方向共轭和两个方向正交从某种角度来说意思差不多,只不过正交在观感上更容易被大家理解,而共轭也是两个方向之间一种特殊的关系,只不过是通过正定矩阵将这两个方向联系起来

 

在介绍完共轭方向之后,接下来介绍共轭梯度法(简称FR法),书中说道:

共轭梯度法的基本思想是把共轭性与最速下降方法相结合,利用已知点的梯度构造一组共轭方向,并沿这组方向进行搜索,求出目标函数的极小点

 

接下来不太想给出完整的证明,如果各位小伙伴想看完整的证明可以看

文章来源: wenyusuran.blog.csdn.net,作者:文宇肃然,版权归原作者所有,如需转载,请联系作者。

原文链接:wenyusuran.blog.csdn.net/article/details/108403804

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

举报
请填写举报理由
0/200