cmaes-极大似然估计

参考:https://blog.csdn.net/zengxiantao1994/article/details/72787849

极大似然估计

先举个例子:

cmaes-极大似然估计_第1张图片

极大似然估计就是:利用已知的样本结果,反推最有可能(最大概率)导致这样结果的参数值。

原理:极大似然估计是建立在极大似然原理的基础上的一个统计方法,是概率论在统计学中的应用。极大似然估计提供了一种给定观察数据来评估模型参数的方法,即:“模型已定,参数未知”。通过若干次试验,观察其结果,利用试验结果得到某个参数值能够使样本出现的概率为最大,则称为极大似然估计。

样本集:

 

似然函数:

求未知数θ的最大似然问题,就是求似然函数的最值问题,是是的似然函数最大的值,即极大似然估计量

1. 未知参数只有一个(θ为标量)

        在似然函数满足连续、可微的正则条件下,极大似然估计量是下面微分方程的解:

                                    

 2.未知参数有多个(θ为向量)

        则θ可表示为具有S个分量的未知向量:

                                       

        记梯度算子:

                                       

若似然函数满足连续可导的条件,则最大似然估计量就是如下方程的解:

                             

注: 方程的解只是一个估计值,只有在样本数趋于无限多的时候,它才会接近于真实值。

 

注:本文只有笔记作用,若有侵权请联系本人删除

你可能感兴趣的:(cmaes-极大似然估计)