最小二乘法学习

        按照百度百科上介绍最小二乘法的来源时间,应该是法国科学家勒让德最先提出的。这个问题没必要深究,我们了解最小二乘的原理才是王道。

  最小二乘法(又称最小平方法)是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据,并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线。其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。

1.最小二乘法的原理与要解决的问题                                           

            最小二乘法学习_第1张图片

 

2.最小二乘法的代数法解法

            最小二乘法学习_第2张图片

            最小二乘法学习_第3张图片

3.最小二乘法的矩阵法解法

          最小二乘法学习_第4张图片          

                         

4.最小二乘法的局限性和适用场景

          最小二乘法学习_第5张图片

文章来自博客:https://www.cnblogs.com/pinard/p/5976811.html

你可能感兴趣的:(machine,learning)