机器学习中的矩阵向量求导(五) 矩阵对矩阵的求导

举报
格图洛书 发表于 2021/12/30 00:31:09 2021/12/30
【摘要】  在矩阵向量求导前4篇文章中,我们主要讨论了标量对向量矩阵的求导,以及向量对向量的求导。本文我们就讨论下之前没有涉及到的矩阵对矩阵的求导,还有矩阵对向量,向量对矩阵求导这几种形式的求导方法。     本文所有求导布局以分母布局为准,为了适配矩阵对矩阵的求导,本文向量对向量的求导也以分母布局为准,这和前面的文章不同,需要注意。    ...

 在矩阵向量求导前4篇文章中,我们主要讨论了标量对向量矩阵的求导,以及向量对向量的求导。本文我们就讨论下之前没有涉及到的矩阵对矩阵的求导,还有矩阵对向量,向量对矩阵求导这几种形式的求导方法。

    本文所有求导布局以分母布局为准,为了适配矩阵对矩阵的求导,本文向量对向量的求导也以分母布局为准,这和前面的文章不同,需要注意。

    本篇主要参考了张贤达的《矩阵分析与应用》和长躯鬼侠的矩阵求导术

1. 矩阵对矩阵求导的定义

    假设我们有一个p×qp×q的矩阵FF要对m×nm×n的矩阵XX求导,那么根据我们第一篇求导的定义,矩阵FF中的pqpq个值要对矩阵XX中的mnmn个值分别求导,那么求导的结果一共会有mnpqmnpq个。那么求导的结果如何排列呢?方法有很多种。

    最直观可以想到的求导定义有2种:

    第一种是矩阵FF对矩阵XX中的每个值XijXij求导,这样对于矩阵XX每一个位置(i,j)求导得到的结果是一个矩阵∂F∂Xij∂F∂Xij,可以理解为矩阵XX的每个位置都被替换成一个p×qp×q的矩阵,最后我们得到了一个mp×nqmp×nq的矩阵。

    第二种和第一种类似,可以看做矩阵FF中的每个值FklFkl分别对矩阵XX求导,这样矩阵FF每一个位置(k,l)对矩阵XX求导得到的结果是一个矩阵∂Fkl∂X∂Fkl∂X, 可以理解为矩阵FF的每个位置都被替换成一个m×nm×n的矩阵,最后我们得到了一个mp×nqmp×nq的矩阵。

    这两种定义虽然没有什么问题,但是很难用于实际的求导,比如类似我们在

文章来源: wenyusuran.blog.csdn.net,作者:文宇肃然,版权归原作者所有,如需转载,请联系作者。

原文链接:wenyusuran.blog.csdn.net/article/details/97754661

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。