矩阵A^TA(A'A)和AA^T(AA')的性质

\quad 对于任意一个矩阵 A ∈ R m × n A\in R^{m\times n} ARm×n,其转置与它自身的乘积 A T A A^TA ATA,以及它自身与其转置的乘积 A A T AA^T AAT有如下性质:

1. r a n k ( A T A ) = r a n k ( A ) = r a n k ( A T ) = r a n k ( A A T ) rank(A^TA)=rank(A)=rank(A^T)=rank(AA^T) rank(ATA)=rank(A)=rank(AT)=rank(AAT)
\quad 证明:首先,显然有 r a n k ( A T A ) ≤ r a n k ( A ) rank(A^TA)\leq rank(A) rank(ATA)rank(A);
\quad 再由: A T A x = 0 ⇒ x T A T A x = 0 ⇒ A x = 0 A^TAx=0\Rightarrow x^TA^TAx=0\Rightarrow Ax=0 ATAx=0xTATAx=0Ax=0可知, A T A A^TA ATA的右零空间一定包含于 A A A的右零空间. 即: N ( A T A ) ⊂ N ( A ) , N(A^TA)\subset N(A), N(ATA)N(A), \quad 于是必然有: d i m [ N ( A T A ) ] ≤ d i m [ N ( A ) ] , dim[N(A^TA)]\leq dim[N(A)], dim[N(ATA)]dim[N(A)],即: n − r a n k ( A T A ) ≤ n − r a n k ( A ) n-rank(A^TA)\leq n-rank(A) nrank(ATA)nrank(A),即得: r a n k ( A T A ) ≥ r a n k ( A ) rank(A^TA)\geq rank(A) rank(ATA)rank(A).
\quad 综上有 r a n k ( A T A ) = r a n k ( A ) rank(A^TA)=rank(A) rank(ATA)=rank(A).在这式子中用 A T A^T AT代替 A A A就得到: r a n k ( A A T ) = r a n k ( A T ) rank(AA^T)=rank(A^T) rank(AAT)=rank(AT).结合 r a n k ( A ) = r a n k ( A T ) rank(A)=rank(A^T) rank(A)=rank(AT)证毕.

2. A T A A^TA ATA A A T AA^T AAT均对称半正定.
\quad 证明: A T A A^TA ATA显然对称,同时有: ∀ x ∈ R n , x T A T A x = ( A x ) T ( A x ) ≥ 0 \forall x\in R^n,x^TA^TAx=(Ax)^T(Ax)\geq0 xRn,xTATAx=(Ax)T(Ax)0.同理可证 A A T AA^T AAT对称半正定.

3.设rank(A)=r,那么 A A T AA^T AAT合同于 [ I r O O O ] m × m \begin{bmatrix}I_r&O\\O& O\end{bmatrix}_{m\times m} [IrOOO]m×m, A T A A^TA ATA合同于 [ I r O O O ] n × n \begin{bmatrix}I_r&O\\O& O\end{bmatrix}_{n\times n} [IrOOO]n×n.
\quad 证明:由合同变换不改变秩,及上诉性质2可以得到.

4. A T A A^TA ATA A A T AA^T AAT具有相同的非零特征值.
\quad 证明:参考我的另一篇博客:矩阵AB和BA的特征值关系

5. A T A A^TA ATA A T A^T AT具有相同的列空间, A A T AA^T AAT A A A具有相同的列空间。
\quad 证明:显然 A T A A^TA ATA列空间 ⊂ \subset A T A^T AT列空间,但又有: r a n k ( A T A ) = r a n k ( A ) rank(A^TA)=rank(A) rank(ATA)=rank(A),可知它们的列空间维数相同,因此它们的列空间必然相同;同理可证 A A T AA^T AAT A A A具有相同的列空间。

你可能感兴趣的:(机器学习,控制理论)