机器学习—模型估计与优化—线性模型—最小二乘估计

最小二乘估计 Least squares estimation

最小二乘法是一种基于误差平方和最小化的参数估计方法

最小二乘估计法，又称最小平方法，是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘估计法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。

Problems to be solved

1. 模型求解。
2. 参数估计。
3. 待估计量的数值是不随着时间改变的。

Theoretical deduction

向量形式为：

令F(β)对β的偏导数为0，可得方程组：

解此方程组可得：

Calaulation example

(待补充)