householder变换QR分解QR方法

householder变换

定义

• 对于任意的模相等的非零n维向量x,y,一定可以找到一个householder矩阵使x变换到y，

  即
  $$Hx=y;$$
  且H的定义如下：
  $$H=I-2u{u}^T,u^{T}u=1;$$
  因此，容易验证H是一个正交矩阵，正交矩阵的性质是矩阵的逆等于矩阵的转置 ，多说一点，正交变换是很稳定的变换，不会改变矩阵的性质；

  证明：由于u的模为1，因此可以通过x，y构造u，

  即
  $$u=\frac{(x-y)}{||x-y|{|}_2}$$
  相应的可以求出H，
  $$H=I-\frac{2(x-y)(x-y{)}^T}{||x-y|{|}_2^2}$$

  $$H\mathbf{x}=\mathbf{x}-\frac{2(\mathbf{x}-\mathbf{y})(\mathbf{x}-\mathbf{y}{)}^T}{\Vert \mathbf{x}-\mathbf{y}{\Vert }_2^2}x$$

  通过化简就可以得到
  $$Hx=y;$$

QR分解

• QR分解就是把一个矩阵A分解为一个正交矩阵乘上一个三角矩阵

由householder变换的性质，可以使n维非零向量
$$a1=[a1,a2,\cdots ，a_n{]}^T$$
变换为
$$[\times ,0,0，\cdots ，0{]}^T$$
因此可以对矩阵A按列进行分块，即
$$A=[a1,a2,\cdots ，a_n]$$

$$a_i=[ai1,ai2,\cdots ，ain{]}^T$$

首先对a1进行变换，变换为
$$[\times ,0,0，\cdots ，0{]}^T$$
设householder矩阵为H1（注：“×”和H1都是可以通过计算得到，这里主要是介绍操作过程，帮助理解，计算过程就不赘述）

那么就可以得到
$$H1A=H1[a1,a2,\cdots ，a_n]=\left|\begin{array}{cccc}\times & a_{12}^{\ast }& \cdots & a_{1n}^{\ast }\\ 0& a_{22}^{\ast }& \cdots & a_{2n}^{\ast }\\ ⋮& ⋮& \ddots & ⋮\\ 0& a_{n2}^{\ast }& \cdots & a_{nn}^{\ast }\end{array}\right|$$
重复上次方法对
$$\left|\begin{array}{ccc}{a}_{22}^{\ast \ast }& \cdots & a_{2n}^{\ast \ast }\\ ⋮& \ddots & ⋮\\ a_{n2}^{\ast \ast }& \cdots & a_{nn}^{\ast }\end{array}\right|$$
的第一列进行变换，设householder矩阵为H2*（注以下计算用到了分块的方法，分成四块）

就可以得到
$$\left|\begin{array}{cc}1& 0\\ 0& H{2}^{\ast }\end{array}\right|H1A=H2H1[a1,a2,\cdots ，a_n]=\left|\begin{array}{ccccc}\times & \times & a_{13}^{\ast \ast }& \cdots & a_{1n}^{\ast \ast }\\ 0& \times & a_{23}^{\ast \ast }& \cdots & a_{2n}^{\ast \ast }\\ 0& 0& a_{33}^{\ast \ast }& \cdots & a_{3n}^{\ast \ast }\\ ⋮& ⋮& ⋮& \ddots & ⋮\\ 0& 0& a_{n3}^{\ast \ast }& \cdots & a_{nn}^{\ast \ast }\end{array}\right|$$
重复上面的步骤，做n-1次变换后，就可以得到一个上三角矩阵
$$H_{n-1}{H}_{n-2}\cdots H1A=\left|\begin{array}{ccccc}\times & \times & \times & \cdots & \times \\ 0& \times & \times & \cdots & \times \\ 0& 0& \times & \cdots & \times \\ ⋮& ⋮& ⋮& \ddots & ⋮\\ 0& 0& 0& \cdots & \times \end{array}\right|$$
由于H是正交矩阵，因此多个正交矩阵相乘依然是正交矩阵，并且正交矩阵的逆等于矩阵的转置，所以可以得到
$$A=QR$$
Q为正交矩阵，R为上三角矩阵

QR分解

• QR方法是反复对矩阵进行QR分解迭代求特征值的方法

记A为A1，对A1进行QR分解： A1=Q1 R1，然后将矩阵Q1、 R1逆序相乘，得A2=R1 Q1；再以A2重复上述步骤得到A_3，如此类推，

$$A_{K+1}=Q_K{R}_K={Q_K}^{-1}{A}_K{Q}_K=\cdots ={Q_K}^{-1}{Q_{K-1}}^{-1}\cdots Q_1^{-1}{A}_1{Q}_1{Q}_2\cdots Q_K$$
因此A1与A_k+1相似，特征值相等；从矩阵A开始迭代得到一个矩阵序列{ A1,A2,……Ak}，这个矩阵序列中的每个矩阵都与原矩阵A相似，即都有与A相同的特征值。

• 显然，为了求得A的特征值，只需序列能趋向于分块三角矩阵（对角线上的块为一阶或二阶方阵）即可，从而可求出A 的特征值。