奇异值分解(Singular Value Decomposition，简称SVD)也是AI数学基础之线性代数——华为AI学习笔记4提到的重要的矩阵基础知识之一，是机器学习领域应用非常广泛的算法，在降维、推荐系统、自然语言处理等领域都有应用。

1. 定义

2. 分解

那么如何进行奇异值分解呢？即，如果矩阵A对角的U、Σ和V。

2.1. 求矩阵V

正交矩阵V即为奇异值分解中的矩阵V，称为右奇异矩阵。

2.2. 求矩阵U

即为奇异值分解中的矩阵U，称为左奇异矩阵。

2.3. 求矩阵Σ

假设

其中，Σ是待定矩阵。

那么

所以

一些文献，比如文献1在此基础上得出

所以

因为

当m=n或m<n时，同样能得到

此处不再赘述。

通常将Σ矩阵中的奇异值从大到小排列，从而使Σ矩阵具有唯一性。

参考文献

1.https://zhuanlan.zhihu.com/p/29846048
2.https://baike.baidu.com/item/%E5%A5%87%E5%BC%82%E5%80%BC%E5%88%86%E8%A7%A3/4968432?fr=aladdin
3.https://www.jianshu.com/p/a9cb28886e7e