最小二乘法简单记录

1.主要作用

在工程应用中，存在各种各样的模型需要估计，例如统计冰淇淋的加个与销量之间的关系，根据求得的模型对冰淇淋定价，使得利益最大化。
以直线方程y=ax+b为例，理论上我们只需要两组参数就可以求得模型参数（a,b），但在实际工程应用中，我们会采集到大量的数据，即一系列（xi,yi），并且其中通常伴随着噪声。因此，不可能找到一条直线通过所有的点。
最小二乘的作用：

• 能够求出模型的方法，使模型拟合大多数的点，达到最优效果
• 如何求解是另一个问题，例如通过几何法、导数法、梯度下降法是具体的求解方式，和最小二乘无关

2.几何意义

大佬链接

3.概率意义

大佬链接