线性代数笔记15

投影

b在a上的投影
e=b-p

p在a上，则
然后则e和a是垂直的
则有

所以投影P就有

改写就能从另外的角度看

投影P
对b矩阵进行矩阵变换
投影矩阵P就是：
P有性质：
列空间，投影矩阵P的列空间，是通过a的一条线（矩阵乘以任意列向量都在a上，列空间的定义）
所以，列空间的秩也就是1，只有一维(a只是一条线)。
P是对称矩阵，转置与本身相等
P的平方也等于自己，因为投影再投影一次（左乘一个投影矩阵P，还是原来的投影不变）

三个重要的公式：

为什么要投影

可能会无解（方程比未知数多等情况）只能求解最接近的一个解
Ax总是再A的列空间内，但是b不一定（不在的时候，就无解）微调b，让它成为最接近的那一个（投影，垂直哦！！就是找最近的那个点，原来在这里！！）
转而求解 ，p是b在列空间上的投影

三维空间

由决定对的平面及对应的矩阵A和不在平面内的b，p就是b在平面上的投影
则，即我们就是希望求出
关键在于,e是投影过程中，垂直于平面的向量，称为误差向量（error）
因为e垂直与平面，则分别垂直与两个基向量，即：

矩阵形式：

表示成：

这个就是之前直线形式的方程（）的矩阵形式

有 e在的零空间内，
(上一节有提到，正交性，和A的列空间是正交的)

image.png

理顺了之前的关系

改写方程

依然成立：

最小二乘法 least squared

用最小二乘法，拟合一条线

三个点
(1,1)(2,1)(3,2)
则可以建立方程
设x-y坐标轴，然后设直线方程为y=C+Dx
则有

很明显是无解的
则矩阵方程可以写成：

Ax=b就有对应的了，然后就可以利用公式求最优解