第15课 子空间投影

投影

想找到直线上离某点最近的一点。将投影到,是一个一维空间,找到离线最近的点,该投影点为,为与之间的误差,投影是的数,所以我们要找的就是 。

正交条件式子(14-(1):表示第14课第一个表达式)

a垂直e得到如下方程:

的表达式;

映射的式子(投影):投影是一个投影矩阵作用于随便某个向量

是一个,即长度的平方

一列一行是一个矩阵

属于的列空间到了这条线上

性质:

  • 列空间,随便你用什么乘以这个矩阵,总会停在它的列空间里。用任何向量乘以这个矩阵,你总会得到在它列空间里的向量,这就是列空间作用
  • 的秩是1,一列乘一行,得到一个秩为1的矩阵,这个列是空间的基
  • ,对称
  • ,投影2次的结果和投影一次的结果是一样的

为什么要投影

先说说为啥要这个投影,然后就会明白它究竟是个啥,最后运用它。

为什么要讲投影?
​ 因为也许会无解,由于“坏数据”过多,只能求最接近那个问题的解。
​ 然而哪个才是最接近的解呢?
​ 总是在的列空间里,而不一定在,这是问题所在。
​ 我们要做微调,将它变成列空间中最接近它的那一个,
​ 将问题换作求解,有解的,是在列空间上的投影,这就是做投影的原因,因为必须找个解出来,不是那个不存在的,而是最接近解,找出最好的那个投影
​ 列空间内最合适的右侧向量是什么,它必须很接近,然后就能求解了

三维空间里一平面,一个不在平面上的向量,将投影在平面上,平面的一组,得到使投影到平面上最近点的公式

平面是矩阵的列空间。向量,通常不在列空间里,若在列空间里,投影结果就是自己,通常情况会有个误差向量,通常不为,

投影,求 ;

问题关键:;垂直平面,垂直,垂直

方程和表示成矩阵形式:

位于的零空间(),垂直的列空间()

是什么?是方程的解

投影是什么?

投影矩阵是什么?

式括号中的逆运算不能拆开,除非为可逆方阵 ,因此式为投影矩阵的唯一形式

三维投影矩阵的特性与一维是一样的

最小二乘拟合直线

点数据:

(1,1),(2,2),(3,2)

未知方程(拟合直线方程)

将点数据分别代入未知方程,得到如下3个方程:

以下为方程的矩阵形式:

无解,但同时两边乘以,得如下形式:

式可以求出最优解:

式左边得式:

式右边得式:

由式推出:
\begin{bmatrix}3&6\\6&14\end{bmatrix} \begin{bmatrix}c\\D\end{bmatrix} = \begin{bmatrix}5\\11\end{bmatrix} \rightarrow \begin{cases} 3c+6D=5 \\ 6c+14D=11 \end{cases} \rightarrow \begin{cases} c=\frac{2}{3}\\ D=\frac{1}{2} \end{cases}
将和代入式得最优直线:


为线上的点,在列空间里,是矩阵列的一个组合

将代入方程得:


\begin{cases} b_1=p_1+e_1\\ b_2=p_2+e_2\\ b_3=p_3+e_3 \end{cases} \rightarrow \underbrace{\begin{bmatrix}\frac{7}{6}\\\frac{5}{3}\\\frac{13}{6}\end{bmatrix}}_p + \underbrace{\begin{bmatrix}-\frac{1}{6}\\\frac{2}{6}\\-\frac{1}{6}\end{bmatrix}}_e= \underbrace{\begin{bmatrix}1\\2\\2\end{bmatrix}}_{b}

你可能感兴趣的:(第15课 子空间投影)