线性代数笔记2:基本子空间的正交性及性质


基本子空间中有着更加特殊和精确的关系,由此可以引出向量空间的正交性及投影等问题。

正交性及正交补

定义:设 S S T T Rn R n 的两个子空间(subspace),如果对于 VSwTvTw=0 ∀ V ∈ S , w ∈ T , v T w = 0 ,则 S S 垂直于T T (S is perpendicular to T),并且,这个定义是对称的,即 S S 垂直于T T <=> T T 垂直于S S 。记做 ST S ⊥ T 。也可以说 S S T T 是正交的(S and T are orthogonal)。

几个常见结论

  1. A=B1B2 A = B 1 B 2 ,其中 B1 B 1 n×r n × r 矩阵, B2 B 2 r×n r × n 矩阵,后两矩阵秩都为 r r ,则A A 是一个 n×nr(A)=r n × n 矩 阵 , 且 r ( A ) = r

    A A 的每一列是B1 B 1 的列向量的线性组合,因此 C(A)C(B1) C ( A ) ⊂ C ( B 1 )
    A A 的每一列是B2 B 2 的行向量的线性组合,因此 C(AT)C(BT2) C ( A T ) ⊂ C ( B 2 T )
    B1 B 1 是列满秩,则存在可逆 n×n n × n 矩阵 E1 E 1 E1B1=(Ir 0)T E 1 B 1 = ( I r   0 ) T
    B2 B 2 是行满秩,则存在可逆 n×n n × n 矩阵 E2 E 2 B2E2=(Ir 0) B 2 E 2 = ( I r   0 )
    C(A)=C(AE2)=C(B1(Ir 0))=C(B1) C ( A ) = C ( A E 2 ) = C ( B 1 ( I r   0 ) ) = C ( B 1 ) 。因此, dimC(A)=dimC(B1) d i m C ( A ) = d i m C ( B 1 ) ,即 r(A)=r(B1)=r r ( A ) = r ( B 1 ) = r

  2. A A 的列向量线性无关,则ATA A T A 为可逆方阵。

    A A 列满秩 => Ax=0 A x = 0 只有零解 => ATAx=0 A T A x = 0 只有零解 => ATA A T A 列满秩。
    又因为 ATA A T A n×n n × n 方阵,因此为可逆矩阵。

  3. ST{0} S ∩ T ≠ { 0 } ,则 vSTvTv0 ∃ v ∈ S ∩ T , v T v ≠ 0 。因此 S S T T 不正交。
    命题:设 S S T T Rn R n 中的两个子空间,且 dimS+dimT>nST d i m S + d i m T > n , 则 S 和 T 不正交。

子空间的正交性

定理:设 A A n×n n × n 矩阵,则 C(A)N(AT) C ( A ) 和 N ( A T ) 正交, C(AT) C ( A T ) N(A) N ( A ) 正交。

αN(AT) α ∈ N ( A T ) ,则 αTA=0 α T A = 0
因此 αA α 和 A 的全部列向量垂直。可以得到 N(AT)C(A) N ( A T ) ⊥ C ( A )
A A 换成AT A T ,可以得到 C(AT)N(A) C ( A T ) ⊥ N ( A )

四个子空间还存在着如下的关系:

N(AT)+C(A)=RmC(A)+N(AT)=Rn N ( A T ) + C ( A ) = R m , C ( A ) + N ( A T ) = R n

我们说 C(A)N(AT) C ( A ) 是 N ( A T ) Rm R m 上的正交补, C(AT) C ( A T ) N(A) N ( A ) Rn R n 上的正交补。

定义:设 VRn V ⊂ R n 是一个子空间, V V Rn R n 中的正交补定义为集合

{wRn|vTw=0,vV} { w ∈ R n | v T w = 0 , ∀ v ∈ V }

子空间的性质

  1. A A 对称,即A=AT A = A T ,则 C(A)=C(AT) C ( A ) = C ( A T ) ,因此 C(A)N(A) C ( A ) ⊥ N ( A )

  2. ATA A T A 为对称阵,且 N(A)=N(ATA)C(AT)=C(ATA) N ( A ) = N ( A T A ) , C ( A T ) = C ( A T A )

    Ax=0ATAx=0N(A)N(ATA) A x = 0 ⇒ A T A x = 0 ⇒ N ( A ) ⊆ N ( A T A )

    ATAx=0xTATAx=0Ax=0N(ATA)N(A) A T A x = 0 ⇒ x T A T A x = 0 ⇒ A x = 0 ⇒ N ( A T A ) ⊆ N ( A )

    N(A)=N(ATA) ⇒ N ( A ) = N ( A T A )

  3. Ax=b A x = b 有解,则 Ax=b A x = b C(AT) C ( A T ) 中有唯一解。

    存在性:设 Ax=b A x = b 有解,则 bC(A) b ∈ C ( A ) 。又因为 C(A)=C(AAT) C ( A ) = C ( A A T ) ,因此 bC(AAT) b ∈ C ( A A T )

    yRmAATy=b ∴ ∃ y ∈ R m ⇒ A A T y = b

    letxr=ATyAxr=bxrC(AT) l e t x r = A T y ⇒ A x r = b ∴ x r ∈ C ( A T )

    唯一性(反证法):若 x1rx2rC(AT)and Ax1r=b=Ax2r x r 1 , x r 2 ∈ C ( A T ) , a n d   A x r 1 = b = A x r 2
    A(x1rx2r)=0x1rx2rN(A) ∴ A ( x r 1 − x r 2 ) = 0 ⇒ x r 1 − x r 2 ∈ N ( A )

    x1rx2rC(AT)x1rx2rC(AT)N(A)={0} ∵ x r 1 , x r 2 ∈ C ( A T ) ∴ x r 1 , x r 2 ∈ C ( A T ) ∩ N ( A ) = { 0 }

    x1r=x2r ∴ x r 1 = x r 2

欢迎关注我的个人博客。

你可能感兴趣的:(linear,algebra,数据科学的线性代数基础,线性代数,正交性,子空间)