机器学习-(手推)线性回归2-最小二乘法(概率视角)-研究LSE和MLE的关系

前期回顾:

机器学习-(手推)线性回归2-最小二乘法(概率视角)-研究LSE和MLE的关系_第1张图片

一、LSE(最小二乘估计) 

说明:y的ε(即噪声服从高斯分布)

机器学习-(手推)线性回归2-最小二乘法(概率视角)-研究LSE和MLE的关系_第2张图片

机器学习-(手推)线性回归2-最小二乘法(概率视角)-研究LSE和MLE的关系_第3张图片

、MLE(极大似然估计) 

机器学习-(手推)线性回归2-最小二乘法(概率视角)-研究LSE和MLE的关系_第4张图片

机器学习-(手推)线性回归2-最小二乘法(概率视角)-研究LSE和MLE的关系_第5张图片

 结论:

从概率视角分析:MLE(极大似然估计)与LSE(最小二乘估计)是等价的。

机器学习-(手推)线性回归2-最小二乘法(概率视角)-研究LSE和MLE的关系_第6张图片

你可能感兴趣的:(机器学习,线性回归,最小二乘法)