最小二乘原理几何意义及详细公式推导

最小二乘

最小二乘原理是解决当误差等因素存在时,向量b不在设计矩阵A的列项量空间中时,如何求得最优解的方法。这里依然以图片的形式给出,因为在word中编辑好以后在以图片的形式给出,能更好的保证公式推导的流畅性,更容易理解。在后续内容中从列向量空间,向量的线性组合,投影矩阵的角度给出最小二乘原理的几何解释及详细的公式推导,欢迎大家批评指正。![在这里插入图片描述](https://img-blog.csdnimg.cn/e637d85818dd4667adb2160b5997606a.jpeg#pic_center
最小二乘原理几何意义及详细公式推导_第1张图片最小二乘原理几何意义及详细公式推导_第2张图片

加权最小二乘

在上一节最小二乘原理的基础上进一步引入加权最小二乘。
最小二乘原理几何意义及详细公式推导_第3张图片最小二乘原理几何意义及详细公式推导_第4张图片

你可能感兴趣的:(参数估计,线性代数,几何学,矩阵)