矩阵空间理解

最近学习了矩阵的空间,以及各个空间的关系,为了以后查阅方便,便做个笔记,有错误的地方请大家指正一下。

数学符号

符号 意义
Rn n维实空间
Rm×n mxn的实矩阵集合
T 转置
det(A) 行列式
C(A) 列空间
N(A) 零空间
A1
diag(a) 将向量转化为对角矩阵
Tr
rank

重新看待矩阵和 Ax=b

[2111]AR2×2[xy]xR2=[15]bR2(1)

Ax=b 的行视图

行视图:凸优化中的超平面

2xy=1x+y=5(2)

可以将(2)理解为两个直线相交与一点
矩阵空间理解_第1张图片

2u+v+w=54v6v=22u+7v+2w=5(3)

可以将(3)理解为三个平面相交与一点:
矩阵空间理解_第2张图片

Ax=b 的列视图

列视图:矩阵列的线性组合
(2)可以理解为以下形式:

x[21]+y[11]=[15](4)

(3)可以理解为以下形式:
u242+v167+w102=529(5)

(4)与(5)可以理解为向量相加得到向量,我们将(4)用图(3),(5)用图(4)示意:
图(3)如下:
矩阵空间理解_第3张图片

图(4)如下:
矩阵空间理解_第4张图片

线性相关与线性无关

线性相关:矢量集[ a1,a2,,an ]是线性相关的,如果 nk=1ckak=0 ,当且仅当 c1,c2,,cn0 。即,至少有一个向量, al 可以由其他向量线性表出:

al=1clk=1,klnckak(5)

线性无关:矢量集[ a1,a2,,an ]是线性无关的(即不是线性相关的),如果 nk=1ckak=0 ,当且仅当 c1,c2,,cn=0

思考:对于线性相关的理解可以参考图(3)理解;将 [21] 设置为 a1 x 设置为 c1 [11] 设置为 a2 y 设置为 c2 , [15] 设置为 a3 ;那么(4)可以改写为 c1a1+c2a2=a3 ;通过图(3)可以展示他们的关系,知道[a_1,a_2,a_3]是线性相关的。图4也可以这样理解。

性质:定义 A=[a1,a2,,an] ,则 Ax=0 只有 x=0 ,没有其他线性组合能产生 0 (即 A 线性无关的),此时矩阵 A 是可逆的。

Span、基和子空间(Subspace)

Span:生成子空间

span=[a1,a2,,an]={yRm|y=n=1nckak}=S


  • A=[a1,a2,,an] 的所有线性组合。此时,如果 [a1,a2,,an] 是线性无关的,则他们是 S 的一组基。正交基满足条件是 aTiaj=0 ;也可以理解为向量 ai 与向量 aj 夹角是90度。

  • S 可以有不同的一组基,但是基向量的的个数是相同的,被称为 S 的维数,等于 rank(A) 一个子空间用一组基就可以表示了

  • 例子
    A=100230330 ,则 S=span100,230 R3 的子空间,同时 S 还具有其他基。

四个基本的子空间

(1)列空间 C(A) Rm (not Rn ) 的子空间。


  • 定义:包含所有列的线性组合,即 C(A)={y=Ax,xRn}

A=142033 C(A)=span142,033 ,构成一个 R3 的子空间。

如图5
矩阵空间理解_第5张图片


(2) 零空间: N(A) Rn (not Rm ) 的子空间。


  • 定义 N(A) 包含 Ax=0 的所有解的集合。
  • 注意 Ax=b 的解并不形成一个子空间。
  • 例子:求 A 的零空间的基

A=[132826416]U=[10222044] 经过初等变化
Ux=0 ,于是有 s1=0201 s2=2010
因此 N(A)=C0201,2010 ,是 R4 的子空间。


(2) 行空间: N(A) Rn (not Rm ) 的子空间。

待续。。。

你可能感兴趣的:(机器学习,数学)