本节是线性代数的核心内容之一。讲解的四个子空间及其之间的关系。

1. 四个子空间 Four subspaces

  任意的 $m\ast n$ 矩阵$A$都定义了四个子空间。

1.1 列空间 Column space C(A)

  矩阵$A$的列空间是$A$ 的列向量的线性组合在$R^m$空间中构成的子空间。

1.2 零空间 Nullspace N(A)

  矩阵$A$的零空间是$Ax=0$的所有解$x$在$R^n$空间中构成的子空间。

1.3 行空间 Row space $C(A^T)$

  矩阵$A$的行空间是$A$的行向量的线性组合在$R^n$空间中构成的子空间，也就是矩阵$A^T$的列空间。

1.4 左零空间 Left nullspace $N(A^T)$

  我们称矩阵$A^T$的零空间为矩阵$A$的左零空间，它是$R^m$空间中的子空间。

2. 基和维度 Basis& Dimension

2.1 列空间

  矩阵$A$的$r$个主元列( pivot columns) 构成了列空间$C(A)$的一组基。$$dimC(A)=rank(A)=r$$

2.2 零空间

  $Ax=0$的一组特解对应于矩阵$A$的$n-r$个自由列，并构成了零空间的一组基。个人理解：自由列分别进行one-hot处理。
$$dimN(A)=n-r$$

2.3 行空间

  我们用矩阵$A$的化简的行阶梯矩阵$R$。
A = [ 1 2 3 1 1 1 2 1 1 2 3 1 ] → ⋯ → [ 1 0 1 1 0 1 1 0 0 0 0 0 ] = [ I F 0 0 ] = R A = \left[

  矩阵$A$和矩阵$R$的列空间不同($C(A)\ne C(R)$)，但两者行空间相同。 $R$的行向量来自于$A$的行向量的线性组合，因为消元操作是可逆的，所以$A$ 的向量也可以表示为$R$行向量的线性组合。

  $R$的前$r$行向量就是矩阵$A$行空间 $C(A^T)$的一组基。以A为例，其中一组基是$R$中的前两行。

$$dimC(A^T)=r$$

  为什么$C(A^T)=r$，可以重点关注$R$中的$I$。

2.4 左零空间

  左零空间矩阵$A^T$有 $m$ 列， 而其秩为$r$， 因此其自由列数目为$m-r$。所以$dimN(A^T)=m-r$。

  左零矩阵是满足$A^{T}y=0$的所有向量$y$的集合。 称之为左零矩阵是因为该式可写作$y^{T}A=0^T$，此时右边为行向量，而$y$出现在矩阵$A$左侧。

  为找到左零空间的基，我们应用增广矩阵：
$$[A_{m\times n}{I}_{m\times n}]\to [R_{m\times n}{E}_{m\times n}]$$

  我们将$A$通过消元得到矩阵$R$，其消元矩阵记为 $E$，即$EA=R$。若$A$为方阵，且$R=I$，则有$E=A^{-1}$。

  以行操作的观点来看矩阵$E$ 和 $A$ 的乘法，则矩阵 E 最下面的$m-r$个行向量使得矩阵$A$的行向量线性组合成为 0， 也就是矩阵$R$最下面的$m-r$个零向量。本例中，$m-r=1$。

  矩阵$E$的这$m-r$个行向量满足 $y^{T}A=0$，它组成了矩阵$A$左零空间的一组基。

  在本例中的左零空间的一组基为 [ − 1 0 1 ] \left[

3. 新向量空间 New vector space

  所有$3\ast 3$矩阵构成的集合是一个向量空间， 符合对线性运算封闭， 称之为$M$。

  $M$的子空间包括：

• 所有的上三角阵
• 所有的对称阵
• 所有的对角阵

  对角阵是前两个子空间的交集，其维度为 3，其中一组基为：
[ 1 0 0 0 0 0 0 0 0 ] [ 0 0 0 0 1 0 0 0 0 ] [ 0 0 0 0 0 0 0 0 1 ] \left[

文章来源: blog.csdn.net，作者：herosunly，版权归原作者所有，如需转载，请联系作者。

原文链接：blog.csdn.net/herosunly/article/details/90202067