极大似然估计(加实例推导)

极大似然估计:

已知X是离散型随机变量,可能的取值有0,1,  2。对应概率为:

极大似然估计(加实例推导)_第1张图片

这里X更具体解释的话,可以理解为抛两次硬币,正面记1,反面记0,结果累加,只不过这里的硬币特殊,抛到反面的概率是θ。

这时对X抽取容量为10的样本,其中有2个0、5个1、3个2,求θ的最大似然估计值。

套用大佬的总结,最大似然估计法的步骤:

1.  写出似然函数;

极大似然估计(加实例推导)_第2张图片

2.  对似然函数取对数,并整理(注:这里为什么取对数呢?一是因为对数形式好求导;二是因为对数似然方程和原方程是等价的,这又为什么是等价呢?对数函数是单调递增的,不会改变原函数的方向,我们下一步要求极值点,所以没有影响);

3.  求导数;

4.  解似然方程(注:这里为什么求导数为0的点就是最大似然估计值呢?因为L里各项都是大于0的,相乘结果也必然大于0,所以函数极值点一定是最大值点);

最后得θ的最大似然估计值为9/20。

你可能感兴趣的:(机器学习)