整体或局部:手撕矩阵,子空间投影和正交向量基

举报
码乐 发表于 2023/11/15 10:18:36 2023/11/15
【摘要】 承接上一节,记忆的投影:当我不想讲课时,就写满板书到黑板,让学生们抄写完成,自己回家按印象去领悟吧。现实的投影诗句: 我为什么在这里,只留下自己的影子,不带走一丝云彩。 4 矩阵空间的子空间投影 和 空间正交基设有如下向量组 B = {->v1, ->v2, ..., ->vk}这些向量的长度为 1,它们有如下性质 (1) ||->vi|| = 1 for i = 1,2,...,...

承接上一节,

记忆的投影:

当我不想讲课时,就写满板书到黑板,让学生们抄写完成,自己回家按印象去领悟吧。

现实的投影诗句:

  我为什么在这里,只留下自己的影子,不带走一丝云彩。

4 矩阵空间的子空间投影 和 空间正交基

设有如下向量组

	B = {->v1, ->v2, ..., ->vk}

这些向量的长度为 1,它们有如下性质 (1)

		||->vi|| = 1   for i = 1,2,...,k 长度为1
		||->v1||^2 = 1    //平方长度为1
		->v1*->v1 = 1     //与自己点乘为1

这被称为向量组B被归一化了。归一化的向量是把向量组长度都变成1的单位向量。

所有向量都有相互正交,即这些向量之间点乘结果为0(i != j), 并且与自己点乘将得到1

	->vi * ->vj = 0 (i != j)
	->vi * ->vi = 1 (i = j)

这被称为正交基,如果都是单维向量,即向量的长度都为1,则称为标准正交基

并且B中向量是相互独立的,也就是线性无关的,这可以容易证明。
(如果向量组B其中一个向量乘以一个标量,可表示向量组B的另一个向量,那么就是线性相关,这将很容易证明与定义冲突。)

4.1 矩阵空间的子空间及其补集

一个向量组构成的向量空间V可以由 U,W 构成,如

 	V = u + w

u, w 是V的子空间,当且仅当V 是 u,w的内部之和时,w 是 u的补集,并且互补关系是对称的。
特别地,零子空间与V本身是彼此唯一补集。

如果V是有限维度的,通常子空间没有唯一补集,如果V是有限维的内积空间,可能存在唯一正交补集。

4.2 矩阵生成空间及其投影

projection 也就是投影的意思,这里将使用 proj表示投影关系。
从矩阵空间投影的直线开始,因为直线可以看着是 空间的一个特例:

	L = span(->v)  或者  L = {c*->v | c ∈ IR}

这表示 L 是 V的倍数集合,这些系数都是实数范围。 L 为经过原点的直线表达方式。

如下形式定义了任何向量在那条线的投影:

	Proj_L(->x) = (->x * ->v) * ->v / (->v * ->v)

投影的另一个意思是,按比例放大,缩小 L中的向量。

上式表示向量 ->x 在直线 L 的投影,等于 x 与生成这个直线的向量的点积。 也就是x 点乘v 除以,向量v的自点乘,也就是 v长度平方。

L中任意一个向量都可以是生成向量,除了零向量以外的任意向量 都可以是生成向量,也就是其他某个向量的投影。

如下表示,向量->v 在 x轴的投影 -> x,

            ___________________
           /                  /
          /    |             /
         /     | (->v)      /
        /      |/          /
       /       /->----(L) /
      /       /  (x)     /
     /       /          / 
    /__________________/

现有某向量 ->v 在横轴的投影,相当于向量 ->v 对横轴 做垂线。

向量 v 减去 v 在 L(即横轴) 的投影,与 直线 L(即横轴) 是垂直的,也与 L(即横轴) 直线的任何东西垂直。

L是一个子空间,它包括零向量,零空间,因为它经过原点,在加法中是封闭的,也就是 L 中任意元素加另一个元素 仍然在 L 中.

标量乘法也是封闭的,任意元素放大或缩小都在L 子空间中。

假设 V 是 Rn(实数)的子空间,那么有如下性质

	V 的子空间也是 Rn的子空间
	V 的正交补集 也就是 Rn的子空间

现在有空间V的两个子空间:

	U 和 它的补集 W
	V = U + W (V ∈ IR^n)  

这表示 V 是 IRn空间 的子空间 U 与 正交补 W 的元素的和。
假设有向量 ->x 属于 V 空间,向量->x 就是V的一员,向量->x 是正交补空间 W的一员。
投影就是 ->u 来自 V的这一部分。 或者说 ->u 在正交补

	Proj_v ->x = ->v  或 Proj_v^ ->x = ->w 
       (1)              (2)

这表示V的正交补的投影等于 W 所以有

	->x = ->v + ->w      (式 I)

在式 I 中

	(1) 表示 在子空间 V的 U 的投影
	(2) 表示 在子空间 V的正交补空间W的投影 		    

	Proj_v ->x = ->v    (1)
    
	Proj_v^ ->x = ->w   (2)

当 V 是一条直线时,因为这个直线是一个子空间,但不是全部子空间都是 Rn中一个直线。

比如 矩阵

            A = ((3 (-2   )
		           6)  -4)

A的零空间为

          N(A) = span((2
    		          3))

    行空间(A的转置列空间)	   
    
        C(A^t) = span((3
    		         -2))

全部这些 满足 A*->x 等于 0 的 特征向量 ->x 都是零空间 N(A) 的生成空间。

如下向量是矩阵A空间的一员

	 ->a = (9
           18)

N(A) 与 C(A^t) 为相互正交补,也就是零空间为 行空间的正交补。

	N(A) = C(A^t)^
	N(A)^ = C(A^t)

如下图表示,则为在原点交叉的两个直线

直线上的投影是空间投影的一个特例,也可以说是齐次解。

结论:

    向量在直线的投影是线性变换。 
    向量在任意空间的投影也是线性变换。

本节小结

本文结束矩阵零空间,列空间的概念,及向量在其中的投影概念,空间正交向量在计算机中有很多应用。
下一节我们试图继续了解其中的几个典型案例,完我们开始吧。

【版权声明】本文为华为云社区用户原创内容,未经允许不得转载,如需转载请自行联系原作者进行授权。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。