均方误差代价函数

均方误差代价函数 MSE Cost Function

代价函数可以用来衡量假设函数(hypothesis function)的准确性

在线性回归中，如果假设函数为h(x)=θ0+θ1*x,
均方误差代价函数公式如下图:

θ0 和 θ1是假设函数的参数
h(x)就是预测值
m是训练的样本数量
i表示第i个样本

均方误差函数就是把预测值和真实值差的平方求和再除以2倍的样本数量

其中取2m而不取m是为了方便计算梯度.

用一道题帮助我们理解代价函数:

这道题给了三个样本点，并且给出假设函数h(x)=θ1x,代价函数是均方误差代价函数，求J(0)
由题可知，θ0=0，要求J(0)，就是让θ1=0，当θ1=0的时候，其实h(x)=0
那么根据公式可以计算，选D

当代价函数J(θ0，θ1)最小的时候，假设函数的预测值和真实值最接近
如下图，给定三个样本点(1,1),(2,2),(3,3),对于h(x)=0+θ1x,当θ1=1时，J(θ0,θ1)=0,即预测值和真实值完全相同，当θ1不为1时，预测的偏差随着θ1距离1的远近程度增加