最大似然估计（概率密度函数的估计的参数方法）

最大似然估计 

    有以下几个假设：  确定但未知

                                           样本  独立同分布

                                          类条件概率密度  有确定的函数形式

                                                                       

                                                                   或 

样本  中的各个样本的联合概率为

                   

上式反映在不同参数取值下取得当前样本集的可能性

参数  叫相对于样本集 x 的似然函数 

使似然函数最大的  是样本 x 的函数 ，记作  ，全称为最大似然估计量

最大似然估计要干嘛呢？找  ！ 也就是说抽取一组的样本在密度函数（ 取什么值）的可能性最大。

注：arg max 表示后面的函数取得最大值的变量的取值，比如 

为了方便求解，取对数似然函数

             

然后就是若  为标量，那么求微分；若为向量，则求梯度。公式不赘述（其实是我懒得打。。。）

令上句的式子等于零求得的解就是似然函数的极值点。

注：若随机变量 x 为一维的时候要根据似然函数的定义来，令分母最小的时候就能取得最大值。