矩阵的分解

资料

matrix decomposition wiki

Eigen库 关于矩阵Ax=b的求解

QR Factorization and Singular Value Decomposition

完整的Eigen矩阵分解比较，精度，速度

线性方程\(Ax=b\)有关的矩阵分解

LU decomposition

分解成上三角,下三角,置换矩阵的乘积

• 适用于方块矩阵(\(n \times n\))
• LUP(P是置换矩阵)是一定存在的,这其实就是高斯消元法的体现
• 用于\(Ax = b\)的求解,\(LUx = b\),

Rank factorization(秩分解)

• 适用于\(m \times n\)矩阵,秩为\(r\)
• \(A=CF\),C(\(m \times r\)),列满秩,F(\(r \times n\)),行满秩
• 用于计算伪逆

Cholesky decomposition

• 适用于方块,对称,正定矩阵
• \(A = LL^T\) ,L是下三角矩阵
• 是唯一的,同时适用于Hermitian正定矩阵
• 是LU的一种特殊形式

QR decomposition

• 适用于\(m \times n\)
• \(A =QR\), Q是正交矩阵\(QQ^T =I\),R是上三角矩阵
• 也可以用于求解\(Ax=b\),而不需要求解逆矩阵
• 同时相对于LU分解,他是数值稳定的,(不需要保留小数点后面很多的数字,为了避免数值上的不稳定)

基于特征值的相关矩阵分解

Eigen decomposition

• spectral decomposition,同时也叫作谱分解
• 适用于具有不同特征向量的方块矩阵,
• \(A=VDV^{-1}\) ,D是由特征值组成的对角矩阵,V的每一列是特征值对应的特征向量

Jordan decomposition

• 适用于方块矩阵
• 是特征值分解的广泛推广形式

Schur decomposition

• 适用于方块矩阵
• 有复数版本的,有实数版本的schur分解
• 实数版本\(A = VSV^T\),V是正交矩阵,S是上三角块矩阵.(The blocks on the diagonal of S are of size 1×1 (in which case they represent real eigenvalues) or 2×2 (in which case they are derived from complex conjugate eigenvalue pairs).

Singular value decomposition

• 适用于\(m\times n\)矩阵
• \(A= UDV^H\),D非负对角矩阵,U,V是酉矩阵

其他形式的分解

Polar decomposition

• 适用于方块,复数矩阵
• \(A= UP\)(right polar decomposition), \(A=P'U\) (left polar decomposition)

数值稳定性,主元的选择

condition num

Measures how change in input is propogated to change in output

可以由SVD分解来求解条件数，判断矩阵的稳定性。具体参考QR Factorization and Singular Value Decomposition