第16课 投影矩阵和最小二乘

投影矩阵：

① 如果向量 在的列空间里，则投影结果

② 如果垂直于的列空间(可买想象成一个平面)，此时离最近,即的投影点。一般情况 下向量会有一个分量在列空间里，另一个分量则和列空间垂直

投影矩阵起的作用是保留第一部分，去掉第二部分。

从第二部分开始，

什么向量会垂直于列空间？在转置的零空间里的向量

怎么知道一定会得到0？

垂直于列空间究竟是什么意思？

如果它垂直所有列，它会在其他某个空间里

②证明：

​ 如果，就在里。如果在里，则有 ,可推以下：

​ 投影矩阵乘以的表示为：

①证明：

​ 里的向量就是可推如下：

投影矩阵的作用：

投影

是投影矩阵，也是投影矩阵：

最小二乘：

• 投影向量和误差向量的和是
• 和相互垂直，点积为零
• 垂直

线性代数的性质：

​ 如果各列线性无关，是可逆的

​ 假设：

​ 目标：证明可逆

​ 只有零解，所以只需证明一定是零向量

方程：

相互垂直的各列一定是线性无关的

相互垂直的单位向量

标准正交向量组